Уровень доверия ИИ: как сеть Mira решает проблемы иллюзий и предвзятости ИИ

Недавно была официально запущена публичная тестовая сеть под названием Mira, цель которой заключается в создании надежной основы для искусственного интеллекта. Это вызывает важный вопрос: почему AI необходимо доверять? Как Mira решает эту сложную задачу?

При обсуждении ИИ люди часто больше сосредоточены на его мощных возможностях. Однако интересный, но часто игнорируемый вопрос заключается в том, что ИИ может иметь "иллюзии" или предвзятости. Так называемые "иллюзии" ИИ, проще говоря, это когда ИИ иногда "бормочет", излагая на первый взгляд убедительную, но на самом деле ложную информацию. Например, когда его спрашивают, почему луна розовая, ИИ может предложить ряд на первый взгляд разумных, но на самом деле безосновательных объяснений.

Появление таких "иллюзий" или предвзятостей у ИИ связано с некоторыми текущими технологическими направлениями ИИ. Например, генеративный ИИ достигает связного и разумного вывода, предсказывая "наиболее вероятное" содержание, но этот метод иногда трудно проверить на достоверность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные материалы, что все влияет на качество вывода ИИ. Другими словами, ИИ учится языковым паттернам людей, а не самим фактам.

Текущие механизмы генерации вероятностей и модели, основанные на данных, почти неизбежно приводят к тому, что ИИ создает иллюзии. Такие предвзятые или иллюзорные выводы, если они ограничены общей информацией или развлекательным контентом, могут временно не привести к серьезным последствиям. Но если это происходит в таких строго регламентированных областях, как медицина, юриспруденция, авиация и финансы, это может иметь серьезные последствия. Поэтому решение проблем иллюзий и предвзятости ИИ стало одной из центральных задач в процессе развития ИИ.

В настоящее время существуют несколько методов, пытающихся решить эту проблему. Некоторые из них используют технологии, улучшающие генерацию данных, объединяя ИИ с реальными базами данных и приоритизируя вывод проверенных фактов. Другие вводят человеческую обратную связь, исправляя ошибки модели с помощью ручной маркировки и надзора.

Проект Mira - это попытка решить проблемы предвзятости и иллюзий в ИИ. Он стремится создать уровень доверия к ИИ, улучшая его надежность. Итак, как Mira достигает этой цели?

Основная идея Mira заключается в проверке выходных данных AI через консенсус нескольких AI-моделей. По сути, это сеть проверки, использующая коллективную мудрость множества AI-моделей для оценки надежности выходных данных AI. Более того, Mira использует децентрализованный механизм консенсуса для верификации.

Данная децентрализованная верификация консенсуса является сильной стороной криптовалютной области, а также в полной мере использует преимущества многомодельного сотрудничества, снижая предвзятость и иллюзии через коллективный верификационный режим. В плане архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимые для проверки декларации. Эти декларации требуют участия операторов узлов в процессе верификации. Для обеспечения честности операторов узлов Mira использует механизмы криптоэкономических стимулов и наказаний.

Сетевая архитектура Mira включает в себя преобразование контента, распределенную валидацию и механизм консенсуса. Во-первых, система разбивает кандидатный контент на различные проверяемые заявления, которые распределяются по узлам для проверки, а затем сводятся к результату для достижения консенсуса. Чтобы защитить конфиденциальность клиентов, заявления будут распределяться по различным узлам случайным образом.

Операторы узлов отвечают за работу моделей валидации, обработку заявлений и представление результатов валидации. Их мотивация участвовать в валидации связана с возможностью получения прибыли. Эта прибыль возникает от ценности, создаваемой для клиентов, а именно от снижения уровня ошибок в ИИ. В таких областях, как медицина, право, авиация и финансы, снижение уровня ошибок может приносить огромную ценность, поэтому клиенты готовы за это платить. Чтобы предотвратить спекуляции со стороны операторов узлов, узлы, которые постоянно отклоняются от консенсуса, будут подвергаться уменьшению залоговых токенов.

В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Он построен на основе нескольких моделей ИИ и создает децентрализованную сеть валидации консенсуса, что обеспечивает более высокую надежность ИИ-сервисов для клиентов, снижает предвзятость и галлюцинации ИИ, чтобы удовлетворить требования к более высокой точности и прецизионности. В то же время это приносит доход участникам сети. Короче говоря, Mira пытается построить уровень доверия к ИИ, что поможет продвинуться в углубленном развитии применения ИИ.

В настоящее время пользователи могут участвовать в публичной тестовой сети Mira через приложение Klok. Klok — это приложение для чата на базе Mira, которое позволяет пользователям испытать проверенные результаты AI и получить возможность зарабатывать баллы Mira. Хотя будущее использование баллов еще не объявлено, это, безусловно, предоставляет пользователям возможность лично пережить процесс проверки AI.