Довірчий рівень ШІ: як мережа Mira вирішує проблеми ілюзій та упереджень ШІ

Нещодавно було офіційно запущено громадську тестову мережу під назвою Mira, метою якої є створення надійної основи для штучного інтелекту. Це викликало важливе питання: чому AI потрібно довіряти? Як Mira вирішує це складне питання?

При обговоренні ШІ люди часто більше зосереджуються на його потужних можливостях. Однак цікавим, але часто ігнорованим питанням є те, що ШІ може мати "ілюзії" або упередження. Що стосується "ілюзій" ШІ, то простими словами, це означає, що іноді ШІ може "говорити нісенітниці", здавалося б, впевнено наводячи деяку недостовірну інформацію. Наприклад, коли його запитують, чому місяць рожевий, ШІ може надати ряд, здавалося б, обґрунтованих, але насправді безпідставних пояснень.

Виникнення таких "ілюзій" або упереджень у ШІ пов'язане з деякими поточними технологічними шляхами ШІ. Наприклад, генеративний ШІ досягає послідовного та розумного виходу, прогнозуючи "найімовірніше" вміст, але цей метод іноді важко перевірити на достовірність. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигаданий вміст, що впливає на якість виходу ШІ. Іншими словами, ШІ вивчає мовні моделі людей, а не самі факти.

Поточні механізми генерації ймовірностей та дані, що керують моделями, майже неминуче призводять до того, що ШІ створює ілюзії. Такі упереджені або ілюзорні виходи, якщо обмежені звичайними знаннями або розважальним контентом, можуть тимчасово не призводити до серйозних наслідків. Але якщо це трапляється в медичних, юридичних, авіаційних, фінансових та інших високорегульованих сферах, це може мати значний вплив. Таким чином, вирішення проблеми ілюзій та упереджень ШІ стало одним із ключових викликів у процесі розвитку ШІ.

Наразі існує кілька методів, які намагаються вирішити цю проблему. Деякі з них використовують технологію генерації, посилену пошуком, поєднуючи ШІ з реальними базами даних, щоб пріоритетно видавати перевірені факти. Інші залучають людський зворотний зв'язок, коригуючи помилки моделей за допомогою ручної анотації та нагляду.

Проект Mira є спробою вирішити проблеми упередженості та ілюзій в ШІ. Він намагається створити рівень довіри до ШІ, підвищуючи надійність ШІ. Отже, як Mira досягає цієї мети?

Основна ідея Mira полягає в перевірці виходу AI через консенсус кількох моделей AI. Це, по суті, мережа верифікації, яка використовує колективну мудрість кількох моделей AI для оцінки надійності виходу AI. Що ще важливіше, Mira використовує децентралізований механізм консенсусу для верифікації.

Ця децентралізована консенсусна верифікація є сильною стороною криптосфери та повністю використовує переваги багатомодельної співпраці, зменшуючи упередженість і ілюзії через колективну верифікацію. Щодо архітектури верифікації, протокол Mira підтримує перетворення складного контенту на незалежно верифіковані заяви. Ці заяви вимагають участі операторів вузлів у верифікації. Щоб забезпечити чесність операторів вузлів, Mira використовує механізми криптоекономічних стимулів і покарань.

Мережна архітектура Mira включає перетворення контенту, розподілену верифікацію та механізм консенсусу. По-перше, система розбиває кандидатний контент на різні перевіряємi твердження, які розподіляються між вузлами для верифікації, а потім підсумовуються результати для досягнення консенсусу. Для захисту конфіденційності клієнтів твердження будуть розподілятися між різними вузлами випадковими фрагментами.

Оператори вузлів відповідають за запуск моделей перевірки, обробку заявок та подачу результатів перевірки. Їхня мотивація до участі у перевірці походить з можливості отримати прибуток. Ці прибутки виникають з вартості, яку вони створюють для клієнтів, тобто знижуючи ймовірність помилок у ШІ. У сферах медицини, права, авіації, фінансів тощо зниження ймовірності помилок може принести величезну цінність, тому клієнти готові за це платити. Щоб запобігти спекуляціям з боку операторів вузлів, вузли, які постійно відхиляються від консенсусу, будуть зменшувати свої заставлені токени.

В загальному, Mira пропонує новий підхід до забезпечення надійності ШІ. Вона побудувала децентралізовану мережу валідації консенсусу на основі кількох моделей ШІ, що забезпечує вищу надійність для послуг ШІ клієнтів, знижує упередженість і галюцинації ШІ, щоб задовольнити потреби в більшій точності та точності. Крім того, вона приносить прибуток учасникам мережі. Іншими словами, Mira намагається створити рівень довіри для ШІ, що допоможе сприяти поглибленню розвитку додатків ШІ.

Наразі користувачі можуть брати участь у публічному тестуванні Mira через додаток Klok. Klok — це чат-додаток на базі Mira, де користувачі можуть відчути перевірені AI-виводи та отримати можливість заробити бали Mira. Хоча майбутнє використання балів ще не оголошено, це безсумнівно надає користувачам можливість безпосередньо відчути процес верифікації AI.