З огляду на кризу управління OpenAI: майбутня структура організацій штучного інтелекту

Нещодавно внутрішня криза управління в OpenAI привернула широку увагу в галузі. Є думки, що якщо OpenAI прийме форму децентралізованої автономної організації (DAO), це могло б допомогти уникнути подібних інцидентів. Це питання заслуговує на детальне обговорення.

OpenAI, як неприбуткова організація, що прагне розробити безпечний загальний штучний інтелект (AGI) на благо всього людства, має місію, яка досить схожа на багато DAO організацій. Однак проблеми, з якими стикається OpenAI, не виникають через його організаційну структуру, а є наслідком неясних і несправедливих правил управління.

Наприклад, рада директорів OpenAI, яка є вищим органом влади, спочатку складалася з 9 осіб, але наразі залишилося лише 6. Якщо кількість членів зменшиться до 3, для прийняття рішення про долю компанії буде достатньо лише двох голосів, що, безсумнівно, несе в собі великі ризики. Крім того, такі важливі рішення, як зміна генерального директора, не обговорюються на повному засіданні ради директорів і не враховуються думки інших зацікавлених сторін, що свідчить про відсутність необхідної прозорості та процесу консультацій.

Навіть для прибуткових акціонерних компаній необхідно впроваджувати незалежних директорів для підвищення прозорості управління та кращого представлення інтересів не контрольних акціонерів і громадськості. Для таких важливих установ, як OpenAI, які мають відношення до розвитку технологій, соціальної безпеки та навіть долі людства, існуючі механізми управління явно не є достатньо досконалими. Запозичення моделі управління DAO для розробки більш надійної, прозорої та інклюзивної структури управління для OpenAI є напрямком, який варто розглянути.

Варто зазначити, що DAO спочатку було запропоновано з метою побудови самодостатньої системи за допомогою коду, максимально усунувши людське втручання, відображаючи автономність. Однак, коли виникає потреба в людській координації, DAO втрачає свою первісну автономність. Наразі більшість DAO насправді залежать від людського управління, а кодові обмеження є лише допоміжним засобом. Основна характеристика DAO змінилася з автономності на спільноту, представляючи більш широкі інтереси та можливості участі.

Так само, мета AGI полягає в досягненні автономії. OpenAI визначає AGI як високоавтономну систему, здатну перевершити людину в більшості економічно цінних робіт. Хоча автономія AGI більше проявляється у здібностях до дій, по суті AGI та DAO обидва мають на меті побудову справді автономних систем. Отже, як ми повинні управляти такими автономними системами? Чи покладатися більше на внутрішнє узгодження людських цінностей, чи посилити зовнішні обмеження? Це питання, яке потрібно терміново обдумати в процесі розвитку від мовних моделей до AGI.

Останні події навколо OpenAI показують, що до 90% співробітників готові звільнитися та піти за Семом Альтманом. Це явище відображає класичну дискусію в сфері DAO: що важливіше, правила, обмежені кодом, чи колективна згода спільноти?

Хоча правила та обмеження можуть створювати багато консенсусу, справжній великий консенсус часто не формується на основі правил. Лише спільне відчуття місії та культурні цінності можуть справді досягти глибокого резонансу та узгодженості. Ми вже знаємо, як створити цей резонанс між людьми, тож як це реалізувати для ШІ? Це питання варте нашого глибокого роздуму.