Melihat Struktur Organisasi AI Masa Depan dari Kontroversi Tata Kelola OpenAI

Baru-baru ini, sebuah gejolak dalam tata kelola internal OpenAI menarik perhatian luas di kalangan industri. Beberapa pihak berpendapat bahwa jika OpenAI mengadopsi bentuk organisasi otonomi terdesentralisasi (DAO), mungkin dapat menghindari terjadinya peristiwa semacam ini. Pendapat ini patut untuk didiskusikan lebih dalam.

OpenAI sebagai lembaga nirlaba yang berkomitmen untuk mengembangkan kecerdasan buatan umum yang aman (AGI) dan memberikan manfaat bagi seluruh umat manusia, memiliki misi yang mirip dengan banyak organisasi DAO. Namun, masalah yang dihadapi OpenAI saat ini bukan berasal dari struktur organisasinya, tetapi disebabkan oleh aturan tata kelola yang tidak jelas dan tidak masuk akal.

Misalnya, dewan direksi OpenAI sebagai badan kekuasaan tertinggi, awalnya terdiri dari 9 orang, tetapi saat ini hanya tersisa 6 orang. Jika anggota terus berkurang menjadi 3 orang, hanya dibutuhkan dua suara untuk menentukan nasib perusahaan, yang jelas mengandung risiko besar. Selain itu, keputusan besar seperti penggantian CEO ternyata tidak melalui diskusi penuh oleh seluruh dewan direksi, juga tidak mempertimbangkan pendapat pemangku kepentingan lainnya, sehingga kurangnya transparansi dan proses konsultasi yang diperlukan.

Bahkan perusahaan publik yang berorientasi keuntungan perlu mengangkat direktur independen untuk meningkatkan transparansi tata kelola, dan lebih baik mewakili pemegang saham non-pengendali dan kepentingan publik. Untuk OpenAI, sebuah lembaga yang berhubungan dengan perkembangan teknologi, keamanan sosial, dan bahkan nasib umat manusia, mekanisme tata kelola yang ada jelas tidak cukup memadai. Mengambil inspirasi dari model tata kelola DAO, merancang struktur tata kelola yang lebih kokoh, transparan, dan inklusif untuk OpenAI adalah arah yang patut dipertimbangkan.

Perlu dicatat bahwa ketika DAO pertama kali diusulkan, tujuannya adalah untuk membangun sistem yang koheren melalui kode, meminimalkan gangguan manusia, dan mencerminkan otonomi. Namun, ketika koordinasi manusia diperlukan, DAO kehilangan otonomi aslinya. Saat ini, sebagian besar DAO sebenarnya bergantung pada tata kelola manusia, dengan batasan kode hanya sebagai alat bantu. Ciri khas inti DAO telah berubah dari otonomi menjadi didorong oleh komunitas, mewakili kepentingan yang lebih luas dan kesempatan untuk berpartisipasi.

Demikian pula, tujuan AGI juga mengejar otonomi. OpenAI mendefinisikan AGI sebagai sistem yang sangat otonom, mampu melampaui manusia dalam sebagian besar pekerjaan yang memiliki nilai ekonomi. Meskipun otonomi AGI lebih terlihat dalam kemampuan perilaku, pada dasarnya, AGI dan DAO keduanya bertujuan untuk membangun sistem yang benar-benar otonom. Lalu, bagaimana kita harus mengelola sistem otonom semacam itu? Apakah lebih bergantung pada penyesuaian nilai-nilai manusia yang mendasar, atau memperkuat batasan eksternal? Ini adalah pertanyaan yang perlu dipikirkan dalam proses perkembangan dari model bahasa ke AGI.

Perkembangan terbaru dari kejadian di OpenAI menunjukkan bahwa hingga 90% karyawan menyatakan bersedia untuk mengundurkan diri dan mengikuti Sam Altman. Fenomena ini mencerminkan sebuah perdebatan klasik di bidang DAO: mana yang lebih penting, aturan yang dibatasi oleh kode atau konsensus kelompok dalam komunitas?

Meskipun aturan dan batasan dapat membentuk banyak konsensus, tetapi konsensus yang benar-benar hebat sering kali tidak dibentuk oleh aturan. Hanya dengan rasa misi dan nilai-nilai budaya bersama, kita dapat mencapai resonansi dan konsistensi yang mendalam. Kita sudah tahu bagaimana menciptakan resonansi ini di antara manusia, lalu bagaimana dengan AI? Pertanyaan ini layak untuk kita pikirkan lebih dalam.