Проблемы развития Web3 AI: высокоразмерные встраивания и механизмы внимания становятся ключевыми вызовами

robot
Генерация тезисов в процессе

Углубление барьеров в индустрии Web2 AI, Web3 AI требует осторожного планирования

В последнее время акции Nvidia достигли нового рекорда, а прогресс в многомодальных моделях углубил технологическое превосходство Web2 AI. От семантической согласованности до визуального понимания, от высокоразмерных вложений до слияния признаков, сложные модели с поразительной скоростью интегрируют различные модальные способы выражения, строя все более закрытую AI-экосистему.

Однако этот бум практически не связан с областью криптовалют. Недавние попытки Web3 AI в направлении агентов имеют значительные отклонения: они пытаются собрать многомодульную модульную систему в стиле Web2 с использованием децентрализованной структуры, что на самом деле является двойным несоответствием как в технологии, так и в мышлении. В условиях сильной взаимосвязанности модулей, высокой нестабильности распределения признаков и растущих требований к вычислительной мощности, многомодульная модульная система трудно может утвердиться в среде Web3.

Будущее развития Web3 AI не должно ограничиваться имитацией, а должно требовать стратегического обхода. От семантического выравнивания в высокоразмерном пространстве до информационных узких мест в механизме внимания, и до выравнивания признаков в условиях гетерогенной вычислительной мощности, Web3 AI необходимо переосмыслить свой путь развития.

В настоящее время Web3 AI сталкивается с огромными проблемами при реализации высокоразмерного встраиваемого пространства. Большинство протоколов Web3 Agent представляют собой лишь упаковку готовых API в независимые модули, что приводит к отсутствию единого центрального встраиваемого пространства и кросс-модульного механизма внимания. Это приводит к тому, что информация не может взаимодействовать между модулями с разных углов и на разных уровнях, что заставляет ее двигаться по линейному конвейеру и затрудняет формирование общей замкнутой оптимизации.

В пространстве низкой размерности механизм внимания также не может быть точно спроектирован. Модульная характеристика Web3 AI затрудняет реализацию единой схемы распределения внимания, поскольку отсутствуют общие векторные представления, параллельное взвешивание и агрегирующие способности. Это значительно ограничивает верхний предел производительности системы.

В области слияния признаков Web3 AI в настоящее время находится на простом статическом этапе соединения. Из-за отсутствия высокоразмерного пространства и точного механизма внимания в качестве основы Web3 AI трудно реализовать динамическое слияние признаков, что не позволяет захватывать сложные кросс-модальные связи.

Несмотря на углубление барьеров в AI-индустрии, возможности Web3 AI еще не полностью проявились. Web3 AI должен применить тактику "окружения города из деревни", начиная с маломасштабных экспериментов в пограничных сценариях. Подходящие области для внедрения включают крайние вычисления, легкие структуры, задачи, легко параллелизуемые и поощряющие, такие как LoRA дообучение, посттренировочные задачи по выравниванию поведения, краудсорсинговая подготовка и аннотирование данных, обучение малых базовых моделей, а также совместное обучение на крайних устройствах.

Перед тем как исчезнут преимущества Web2 AI и обострятся наследственные проблемы, проектам Web3 AI следует осторожно выбирать точки входа. Идеальный проект должен обладать следующими характеристиками: возможность входа с периферии и устойчивого положения в малых сценариях; возможность постоянного обновления продукта в определенных приложениях; достаточная гибкость для быстрой адаптации к различным сценариям. Проекты, которые слишком зависят от инфраструктуры или имеют чрезмерно крупную сетевую архитектуру, могут столкнуться с риском быть вытесненными.

Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Награда
  • 6
  • Поделиться
комментарий
0/400
OvertimeSquidvip
· 16ч назад
Это не снова рисование пирога в воздухе?
Посмотреть ОригиналОтветить0
LuckyBearDrawervip
· 16ч назад
Лучшая стена, которую не удастся преодолеть, просто не трогайте ее.
Посмотреть ОригиналОтветить0
TokenDustCollectorvip
· 16ч назад
Не пересказывайте старые идеи, слепое копирование приведет к провалу.
Посмотреть ОригиналОтветить0
SchrodingersFOMOvip
· 16ч назад
Устали играть, ai тоже хочет расслабиться.
Посмотреть ОригиналОтветить0
MeaninglessGweivip
· 16ч назад
Снова в новой бутылке старое вино, когда же будет что-то интересное?
Посмотреть ОригиналОтветить0
GateUser-ccc36bc5vip
· 16ч назад
Кто поймет, зачем так усложнять?
Посмотреть ОригиналОтветить0
  • Закрепить