Изучая будущее организационной структуры ИИ на примере скандала с управлением OpenAI

Недавно внутренний конфликт в OpenAI привлек широкое внимание в отрасли. Существуют мнения, что если OpenAI примет форму децентрализованной автономной организации (DAO), это может помочь избежать подобных событий. Это мнение заслуживает глубокого обсуждения.

OpenAI как некоммерческая организация, нацеленная на разработку безопасного общего искусственного интеллекта (AGI) и на благо всего человечества, имеет миссию, схожую с многими организациями DAO. Однако текущие проблемы OpenAI не связаны с его организационной структурой, а вызваны неясностью и неразумностью правил управления.

Например, совет директоров OpenAI, который является высшим органом власти, изначально состоял из 9 человек, но в настоящее время остались только 6. Если количество членов продолжит сокращаться до 3, для принятия решения о судьбе компании достаточно будет двух голосов, что очевидно представляет собой серьезный риск. Кроме того, такие важные решения, как смена генерального директора, были приняты без充分ого обсуждения со всеми членами совета директоров, и мнения других заинтересованных сторон также не были учтены, что говорит о недостаточной прозрачности и процессе согласования.

Даже для акционерных компаний с целью получения прибыли необходимо вводить независимых директоров для повышения прозрачности управления и лучшего представления интересов миноритарных акционеров и общественности. Для такой важной организации, как OpenAI, которая имеет отношение к технологическому развитию, социальной безопасности и даже судьбе человечества, существующая система управления явно недостаточно совершенна. Заимствование модели управления DAO для разработки более надежной, прозрачной и инклюзивной структуры управления для OpenAI является направлением, которое стоит рассмотреть.

Стоит отметить, что изначально DAO была предложена с целью создания самодостаточной системы с помощью кода, максимально исключающей человеческое вмешательство и демонстрирующей автономию. Однако, когда требуется человеческая координация, DAO теряет свою изначальную автономию. В настоящее время большинство DAO фактически зависят от человеческого управления, а кодовые ограничения являются лишь вспомогательным средством. Основная характеристика DAO изменилась с автономии на общественное управление, представляющее более широкие интересы и возможности участия.

Точно так же цель AGI заключается в стремлении к автономии. OpenAI определяет AGI как высокоавтономную систему, способную превосходить человека в большинстве работ, имеющих экономическую ценность. Несмотря на то, что автономия AGI больше проявляется в поведении, по своей сути AGI и DAO нацелены на создание по-настоящему автономных систем. Итак, как мы должны управлять такими автономными системами? Полагаться больше на внутреннее согласование человеческих ценностей или усиливать внешние ограничения? Это вопрос, который необходимо обдумать в процессе развития от языковой модели к AGI.

Последние события вокруг OpenAI показывают, что до 90% сотрудников выразили готовность уволиться и последовать за Сэмом Альтманом. Это явление отзывается на классическую дискуссию в области DAO: что важнее, правила, ограниченные кодом, или коллективный консенсус сообщества?

Хотя правила и ограничения могут создать множество консенсусов, по-настоящему великий консенсус часто не создается правилами. Только общая миссия и культурные ценности могут действительно достичь глубокого резонирования и согласия. Мы уже знаем, как создать такое резонирование между людьми, так как же это можно достичь для ИИ? Этот вопрос стоит нашего глубокого размышления.