De la controverse de la gouvernance d'OpenAI, regardons la structure organisationnelle future de l'IA

Récemment, une crise de gouvernance au sein d'OpenAI a suscité une large attention dans l'industrie. Certains estiment que si OpenAI adoptait une forme d'organisation autonome décentralisée (DAO), cela pourrait éviter de tels événements. Ce point de vue mérite d'être exploré en profondeur.

OpenAI, en tant qu'organisation à but non lucratif dédiée au développement d'une intelligence artificielle générale (AGI) sûre et bénéfique pour l'humanité, partage une mission similaire à celle de nombreuses organisations DAO. Cependant, les problèmes auxquels OpenAI est actuellement confronté ne proviennent pas de sa structure organisationnelle, mais plutôt de l'ambiguïté et de l'irrationalité des règles de gouvernance.

Par exemple, le conseil d'administration d'OpenAI, en tant qu'organe suprême, était à l'origine composé de 9 membres, mais il ne reste actuellement que 6 personnes. Si le nombre de membres continue de diminuer jusqu'à 3, seulement deux voix suffiraient à décider du sort de l'entreprise, ce qui présente clairement des risques importants. De plus, des décisions majeures comme le remplacement du CEO ont été prises sans discussion adéquate de l'ensemble du conseil d'administration, et sans prendre en compte les opinions des autres parties prenantes, manquant ainsi de la transparence et du processus de consultation nécessaires.

Même une entreprise cotée à but lucratif doit introduire des administrateurs indépendants pour améliorer la transparence de la gouvernance et mieux représenter les intérêts des actionnaires minoritaires et du public. Pour une institution aussi cruciale pour le développement technologique, la sécurité sociale et même le destin de l'humanité comme OpenAI, le mécanisme de gouvernance actuel est manifestement insuffisant. S'inspirer du modèle de gouvernance DAO et concevoir une structure de gouvernance plus solide, transparente et inclusive pour OpenAI est une direction qui mérite d'être envisagée.

Il est à noter que lorsque le DAO a été initialement proposé, son objectif était de construire un système cohérent par le biais du code, en minimisant les interférences humaines et en reflétant l'autonomie. Cependant, lorsque la coordination humaine est nécessaire, le DAO perd son autonomie initiale. Actuellement, la plupart des DAO dépendent en réalité de la gouvernance humaine, les contraintes du code n'étant qu'un moyen d'assistance. La caractéristique fondamentale du DAO est donc passée de l'autonomie à un modèle piloté par la communauté, représentant des intérêts et des opportunités de participation plus larges.

De même, l'objectif de l'AGI est également de poursuivre l'autonomie. OpenAI définit l'AGI comme un système hautement autonome, capable de surpasser l'homme dans la plupart des tâches ayant une valeur économique. Bien que l'autonomie de l'AGI se manifeste davantage par sa capacité d'action, à la base, l'AGI et la DAO visent à construire de véritables systèmes autonomes. Alors, comment devrions-nous gouverner de tels systèmes autonomes ? Devons-nous nous fier davantage à l'alignement des valeurs humaines intrinsèques ou renforcer les contraintes externes ? C'est une question qui nécessite une réflexion urgente dans le processus de développement des modèles linguistiques à l'AGI.

Les derniers développements de la tempête autour d'OpenAI montrent que jusqu'à 90 % des employés sont prêts à démissionner et à suivre Sam Altman. Ce phénomène fait écho à un débat classique dans le domaine des DAO : est-ce que les règles contraignantes du code sont plus importantes, ou est-ce que le consensus communautaire est plus crucial ?

Bien que les règles et les contraintes puissent former de nombreux consensus, le véritable grand consensus n'est souvent pas forgé par des règles. Seul un sentiment commun de mission et des valeurs culturelles peuvent vraiment aboutir à une profonde résonance et cohérence. Nous savons déjà comment créer cette résonance entre les personnes, alors comment cela peut-il être réalisé pour l'IA ? Cette question mérite une réflexion approfondie.