Внедрение смарт-контрактов в федеративное обучение: как Flock меняет производственные отношения в сфере искусственного интеллекта?

В будущем FLock также планирует внедрить более удобный механизм запуска заданий, чтобы реализовать видение «AI для всех».

Автор: LINDABELL

В предыдущую волну децентрализованного AI такие звездные проекты, как Bittensor, io.net и Olas, благодаря своим инновационным технологиям и дальновидной стратегии, быстро стали лидерами отрасли. Однако по мере роста оценки этих старых проектов порог для участия обычных инвесторов становится все выше. Так есть ли новые возможности для участия на фоне текущей ротации сектора?

Flock: децентрализованная сеть для обучения и валидации AI

Flock — это децентрализованная платформа для обучения и применения AI-моделей, которая сочетает федеративное обучение и блокчейн-технологии, предоставляя пользователям безопасную среду для обучения моделей и управления ими, одновременно защищая приватность данных и обеспечивая справедливое участие сообщества. Термин Flock впервые появился в публичном поле в 2022 году, когда команда основателей совместно опубликовала научную статью под названием «FLock: Defending malicious behaviors in federated learning with blockchain», в которой была предложена идея внедрения блокчейна в федеративное обучение для предотвращения злонамеренных действий. В статье объясняется, как децентрализованный механизм может усилить безопасность данных и защиту приватности в процессе обучения моделей, а также раскрывается потенциал этой новой архитектуры в распределенных вычислениях.

После первоначального подтверждения концепции Flock в 2023 году запустил децентрализованную мульти-агентную AI-сеть Flock Research. В Flock Research каждый агент — это специализированная большая языковая модель (LLM), оптимизированная для определенной области, которая может координированно предоставлять пользователям экспертные мнения по различным тематикам. В середине мая 2024 года Flock официально открыл тестовую сеть децентрализованной AI-платформы для обучения, где пользователи могут с помощью тестовых токенов FML участвовать в обучении и донастройке моделей и получать вознаграждения. По состоянию на 30 сентября 2024 года количество ежедневно активных AI-инженеров на платформе Flock превысило 300 человек, а общее количество отправленных моделей достигло более 15 000.

С развитием проекта Flock также привлек внимание венчурного капитала. В марте этого года Flock завершил раунд финансирования на сумму 6 миллионов долларов, возглавляемый Lightspeed Faction и Tagus Capital, при участии DCG, OKX Ventures, Inception Capital и Volt Capital. Примечательно, что Flock стал единственным AI-инфраструктурным проектом, получившим грант в академическом раунде финансирования Ethereum Foundation в 2024 году.

Фундамент для перестройки производственных отношений в AI: внедрение смарт-контрактов в федеративное обучение

Федеративное обучение (Federated Learning) — это метод машинного обучения, позволяющий нескольким субъектам (обычно называемым клиентами) совместно обучать модель при условии локального хранения данных. В отличие от традиционного машинного обучения, федеративное обучение избегает загрузки всех данных на центральный сервер, а вместо этого защищает приватность пользователей с помощью локальных вычислений. На сегодняшний день федеративное обучение уже применяется в ряде реальных сценариев, например, Google с 2017 года внедряет его в свою клавиатуру Gboard для оптимизации предложений ввода и предсказания текста, при этом данные пользователей не загружаются на сервер. Tesla также использует аналогичные технологии в своей системе автопилота, чтобы локально улучшать восприятие окружающей среды автомобилем и сокращать объем передачи видеоданных.

Однако эти применения все еще сталкиваются с рядом проблем, особенно в области приватности и безопасности. Во-первых, пользователи должны доверять централизованной третьей стороне, а во-вторых, в процессе передачи и агрегации параметров модели необходимо предотвращать загрузку ложных данных или вредоносных параметров со стороны злонамеренных узлов, что может привести к снижению общей производительности модели или даже к ошибочным прогнозам. Согласно исследованию команды FLock, опубликованному в журнале IEEE, точность традиционной федеративной модели обучения падает до 96,3% при наличии 10% вредоносных узлов, а при увеличении доли вредоносных узлов до 30% и 40% точность снижается до 80,1% и 70,9% соответственно.

Для решения этих проблем Flock внедряет смарт-контракты на блокчейне в архитектуру федеративного обучения в качестве «двигателя доверия». Смарт-контракты, выступая в роли двигателя доверия, позволяют автоматически собирать и верифицировать параметры в децентрализованной среде, а также публиковать результаты моделей без предвзятости, эффективно предотвращая подделку данных вредоносными узлами. В отличие от традиционных решений федеративного обучения, даже при 40% вредоносных узлов точность модели FLock остается выше 95,5%.

Позиционирование исполнительного слоя AI: разбор трехуровневой архитектуры FLock

Одна из основных проблем в современной AI-индустрии заключается в том, что ресурсы для обучения моделей и использования данных по-прежнему сосредоточены в руках нескольких крупных компаний, и обычным разработчикам и пользователям сложно эффективно использовать эти ресурсы. В результате пользователи могут использовать только заранее созданные стандартизированные модели, не имея возможности их кастомизировать под свои нужды. Такое несоответствие спроса и предложения приводит к тому, что даже при наличии обширных вычислительных мощностей и данных на рынке они не превращаются в реально используемые модели и приложения.

Для решения этой проблемы Flock стремится стать эффективной системой координации спроса, ресурсов, вычислительных мощностей и данных. Flock, используя стек технологий Web3, позиционирует себя как «исполнительный слой», поскольку его основная функция — распределять кастомизированные AI-запросы пользователей между децентрализованными узлами для обучения и управлять этими задачами по всему миру с помощью смарт-контрактов.

Кроме того, для обеспечения справедливости и эффективности всей экосистемы система FLock также отвечает за «расчеты» и «консенсус». Расчеты — это стимулирование и управление вкладом участников, вознаграждение и наказание в зависимости от выполнения задач. Консенсус отвечает за оценку и оптимизацию качества результатов обучения, чтобы гарантировать, что итоговая модель представляет собой глобально оптимальное решение.

Общая архитектура продукта FLock состоит из трех основных модулей: AI Arena, FL Alliance и AI Marketplace. AI Arena отвечает за децентрализованное базовое обучение моделей, FL Alliance — за донастройку моделей под управлением смарт-контрактов, а AI Marketplace — это конечный рынок приложений моделей.

AI Arena: локальное обучение моделей и стимулирование валидации

AI Arena — это децентрализованная платформа для обучения AI от Flock, где пользователи могут участвовать, стейкая тестовые токены FML, и получать соответствующее вознаграждение за стейкинг. После того как пользователь определяет нужную модель и отправляет задание, обучающие узлы AI Arena локально обучают модель на заданной архитектуре, не загружая данные на централизованный сервер. После завершения обучения на каждом узле валидаторы оценивают работу обучающих узлов, проверяют качество модели и выставляют оценки. Если пользователь не хочет участвовать в процессе валидации, он может делегировать свои токены валидатору и получать вознаграждение.

В AI Arena механизм вознаграждения всех ролей зависит от двух ключевых факторов: объема стейкинга и качества выполнения задания. Объем стейкинга отражает «обязательство» участника, а качество задания — его вклад. Например, вознаграждение обучающих узлов зависит от объема стейкинга и рейтинга качества отправленной модели, а вознаграждение валидаторов — от соответствия их голосов консенсусу, объема стейкинга, количества и успешности участия в валидации. Доход делегаторов зависит от выбранного валидатора и объема стейкинга.

AI Arena поддерживает традиционные режимы обучения моделей машинного обучения, и пользователи могут выбирать обучение на своих устройствах с использованием локальных или открытых данных для максимального повышения производительности итоговой модели. На данный момент в публичной тестовой сети AI Arena работает 496 активных обучающих узлов, 871 валидатор и 72 делегатора. Текущий уровень стейкинга на платформе составляет 97,74%, средняя месячная доходность обучающих узлов — 40,57%, валидаторов — 24,70%.

FL Alliance: платформа для автоматического управления донастройкой на смарт-контрактах

Модели с наивысшими оценками на AI Arena выбираются как «консенсусные модели» и передаются в FL Alliance для дальнейшей донастройки. Донастройка проходит в несколько раундов. В начале каждого раунда система автоматически создает связанный с заданием FL смарт-контракт, который управляет выполнением задания и распределением вознаграждений. Аналогично, каждый участник должен застейкать определенное количество токенов FML. Участники случайным образом назначаются предложителями или голосующими: предложители обучают модель на своих локальных датасетах и загружают параметры или веса модели другим участникам, а голосующие агрегируют обновления моделей и оценивают их. Все результаты отправляются в смарт-контракт, который сравнивает баллы каждого раунда с предыдущим для оценки прогресса или регресса модели. Если балл вырос, система переходит к следующему этапу обучения; если снизился — используется модель, проверенная на предыдущем раунде, для нового цикла обучения, агрегации и оценки.

FL Alliance, сочетая федеративное обучение и смарт-контракты, позволяет нескольким участникам совместно обучать глобальную модель, сохраняя суверенитет над своими данными. Агрегируя различные данные и веса, можно создать более производительную и мощную глобальную модель. Кроме того, участники подтверждают свое участие стейкингом токенов и получают вознаграждение в зависимости от качества модели и результатов консенсуса, что формирует справедливую и прозрачную экосистему.

AI Marketplace: как предоставлять персонализированные AI-сервисы?

Модели, прошедшие обучение в AI Arena и донастройку в FL Alliance, в итоге размещаются в AI Marketplace, где их могут использовать другие приложения. В отличие от традиционных «рынков моделей», AI Marketplace не только предоставляет готовые модели, но и позволяет пользователям их модифицировать и интегрировать новые источники данных для различных сценариев. Кроме того, AI Marketplace интегрирует технологию RAG (Retrieval-Augmented Generation — «генерация с усилением через поиск»), чтобы повысить точность моделей в определенных областях. RAG — это способ усиления больших языковых моделей, при котором при генерации ответа извлекается релевантная информация из внешних баз знаний, что обеспечивает более точные и персонализированные ответы.

В настоящее время на AI Marketplace уже представлены многочисленные кастомизированные GPT-модели для различных сценариев, включая BTC GPT, Farcaster GPT, Scroll GPT, Ethereum GPT и другие. Рассмотрим на примере BTC GPT разницу между кастомизированной и универсальной моделью.

В декабре 2023 года, если одновременно спросить у BTC GPT и ChatGPT: «Что такое ARC20?»:

• Ответ BTC GPT: «Протокол ARC20 — это протокол, построенный на сети Bitcoin, который позволяет пользователям создавать, передавать и обновлять цифровые объекты, такие как NFT и взаимозаменяемые токены. С помощью протокола ARC20 можно создавать невзаимозаменяемые NFT и взаимозаменяемые токены в сети Bitcoin. Основной токен протокола ARC20 — ATOM, который используется для различных целей внутри протокола».
• Ответ ChatGPT: «По состоянию на последнее обновление моих знаний в январе 2022 года в технической, финансовой или других распространенных областях не существовало широко признанного стандарта или технологии под названием ARC20. Возможно, после этого появилась новая технология или стандарт с названием ARC20, но у меня нет информации об этом».

Из этих ответов видно, насколько важны и полезны кастомизированные GPT-модели. В отличие от универсальных языковых моделей, кастомизированные GPT-модели могут обучаться на специализированных данных и давать более точные ответы.

Одинаковая поддержка DCG: в чем сходства и различия между Flock и Bittensor?

С восстановлением интереса к AI-сектору токен децентрализованного AI-проекта Bittensor за последние 30 дней вырос более чем на 93,7%, а его цена приблизилась к историческому максимуму, а общая капитализация вновь превысила 4 миллиарда долларов. Примечательно, что инвестор Flock — DCG — также является крупнейшим валидатором и майнером в экосистеме Bittensor. По данным инсайдеров, DCG владеет около 100 миллионов долларов в TAO, а в статье Business Insider в 2021 году инвестор DCG Мэтью Бек рекомендовал Bittensor как одну из 53 самых перспективных крипто-стартапов.

Несмотря на то, что оба проекта поддерживаются DCG, акценты FLock и Bittensor различаются. Bittensor нацелен на создание децентрализованного AI-интернета, используя «подсети» (Subnet) в качестве базовых единиц, каждая из которых представляет собой децентрализованный рынок, где участники могут выступать в роли «майнеров» или «валидаторов». В настоящее время в экосистеме Bittensor 49 подсетей, охватывающих преобразование текста в речь, генерацию контента, донастройку больших языковых моделей и другие области.

С прошлого года Bittensor остается в центре внимания рынка. С одной стороны, из-за стремительного роста цены токена — с 80 долларов в октябре 2023 года до максимума в 730 долларов в этом году. С другой стороны, из-за различных сомнений, включая вопросы о том, насколько устойчива модель привлечения разработчиков с помощью токен-инсентивов. Кроме того, в экосистеме Bittensor три крупнейших валидатора (Opentensor Foundation, Taostats & Corcel, Foundry) вместе держат почти 40% застейканных TAO, что вызывает опасения по поводу степени децентрализации.

В отличие от Bittensor, FLock внедряет блокчейн в федеративное обучение и стремится предоставлять пользователям персонализированные AI-сервисы. Flock позиционирует себя как «Uber в AI», выступая в роли децентрализованной системы диспетчеризации, которая автоматически управляет распределением заданий, верификацией результатов и расчетом вознаграждений с помощью смарт-контрактов, чтобы каждый участник мог справедливо получать долю в зависимости от вклада. Однако, как и в Bittensor, помимо ролей обучающего узла и валидатора, Flock также предоставляет пользователям возможность делегированного участия.

В частности:

• Обучающие узлы: участвуют в обучении AI-заданий через стейкинг токенов, подходят для пользователей с вычислительными ресурсами и опытом разработки AI.
• Валидаторы: также должны стейкать токены для участия в сети, отвечают за проверку качества моделей майнеров и влияют на распределение вознаграждений через валидационные оценки.
• Делегаторы: делегируют токены майнерам и валидаторам, увеличивая их вес при распределении заданий и разделяя их вознаграждение. Таким образом, даже пользователи без технических навыков могут участвовать в сети и получать доход.

FLock.io официально открыл функцию участия для делегаторов — любой пользователь может получать доход, стейкая токены FML, и выбирать оптимальные узлы для максимизации доходности в зависимости от ожидаемой годовой доходности. Flock также отмечает, что стейкинг и связанные действия в тестовой сети повлияют на потенциальные аирдропы после запуска основной сети.

В будущем FLock также планирует внедрить более удобный механизм запуска заданий, чтобы даже пользователи без профессиональных знаний в AI могли легко участвовать в создании и обучении AI-моделей, реализуя видение «AI для всех». Кроме того, Flock активно развивает сотрудничество в различных направлениях, например, разрабатывает модель кредитного скоринга на блокчейне совместно с Request Finance, строит торговых роботов с Morpheus и Ritual, предоставляет шаблоны обучающих узлов для быстрой развертки на Akash, а также обучил помощника по программированию на языке Move для разработчиков Aptos.

В целом, несмотря на различия в рыночном позиционировании, и Bittensor, и Flock пытаются с помощью различных децентрализованных архитектур переосмыслить производственные отношения в AI-экосистеме. Их общая цель — разрушить монополию централизованных гигантов на AI-ресурсы и построить более открытую и справедливую AI-экосистему, что крайне востребовано рынком сегодня.