OpenAI Yönetim Krizi Üzerinden Gelecekteki AI Örgüt Yapısı

Son günlerde, OpenAI içindeki bir yönetişim krizinin sektörde geniş bir ilgi uyandırdığı bildirildi. Bazı görüşler, OpenAI'nin merkeziyetsiz otonom bir organizasyon (DAO) biçimini benimsemesinin, bu tür olayların yaşanmasını önleyebileceğini öne sürüyor. Bu görüş, derinlemesine tartışmaya değer.

OpenAI, güvenli genel yapay zeka (AGI) geliştirmeye ve tüm insanlığa fayda sağlamaya kendini adamış bir kar amacı gütmeyen kuruluş olarak, misyonu birçok DAO organizasyonu ile oldukça benzerlik göstermektedir. Ancak, OpenAI'nin şu anda karşılaştığı sorunlar, organizasyon yapısından değil, yönetişim kurallarının belirsiz ve mantıksız olmasından kaynaklanmaktadır.

Örneğin, OpenAI yönetim kurulu en yüksek yetki organı olarak 9 kişi ile oluşturulmuşken, şu anda yalnızca 6 kişi kalmıştır. Eğer üyeler 3'e düşerse, şirketin kaderini belirlemek için yalnızca iki oya ihtiyaç vardır, bu açıkça büyük bir risk taşımaktadır. Ayrıca, CEO'nun değiştirilmesi gibi önemli kararlar, tüm yönetim kurulunun yeterince tartışması yapılmadan ve diğer paydaşların görüşleri dikkate alınmadan alınmakta, gerekli şeffaflık ve müzakere süreci eksik kalmaktadır.

Kâr amacı güden halka açık şirketler bile, yönetim şeffaflığını artırmak ve kontrol dışı hissedarlar ile kamu çıkarlarını daha iyi temsil etmek için bağımsız yönetim kurulu üyeleri getirmek zorundadır. OpenAI gibi teknoloji gelişimi, sosyal güvenlik ve hatta insanlık kaderi ile ilgili önemli bir kurum için mevcut yönetim mekanizmasının açıkça yetersiz olduğu görülmektedir. DAO'nun yönetim modelinden ilham alarak, OpenAI için daha sağlam, şeffaf ve kapsayıcı bir yönetim yapısı tasarlamak, dikkate değer bir yön olarak değerlendirilebilir.

Dikkate değer olan, DAO'nun ilk ortaya çıktığında, amacı kod aracılığıyla kendi kendine yeten bir sistem inşa etmekti, böylece insan müdahalesini en aza indirerek özerklik sağlanacaktı. Ancak, insan koordinasyonu gerektiğinde, DAO başlangıçtaki özerkliğini kaybediyor. Şu anda, çoğu DAO aslında insan yönetimine bağımlıdır, kod kısıtlamaları sadece yardımcı bir araçtır. DAO'nun temel özellikleri özerklikten topluluk odaklılığa dönüşmüştür ve daha geniş çıkarları ve katılım fırsatlarını temsil etmektedir.

Benzer şekilde, AGI'nin hedefi de özerklik arayışıdır. OpenAI, AGI'yi ekonomik değere sahip çoğu işte insanları aşabilen yüksek derecede özerk bir sistem olarak tanımlar. AGI'nin özerkliği daha çok davranış yeteneği ile kendini gösterse de, özünde AGI ve DAO, gerçekten özerk sistemler inşa etmeyi amaçlamaktadır. Peki, böyle bir özerk sistemi nasıl yönetmeliyiz? Daha fazla içsel insan değerleriyle uyum sağlamaya mı dayanmalıyız yoksa dışsal kısıtlamaları mı güçlendirmeliyiz? Bu, dil modellerinden AGI'ye gelişim sürecinde acil olarak düşünülmesi gereken bir sorudur.

OpenAI'nin bu son gelişmeleri, çalışanların yüzde 90'ının Sam Altman'ı takip etmek için istifa etmeyi istediğini gösteriyor. Bu olgu, DAO alanındaki klasik bir tartışmayı hatırlatıyor: Kod ile belirlenen kurallar mı daha önemli, yoksa topluluğun ortak konsensüsü mü daha kritik?

Kurallar ve kısıtlamaların birçok uzlaşı oluşturmasına rağmen, gerçekten büyük uzlaşı genellikle kurallarla şekillendirilmez. Ancak ortak bir misyon ve kültürel değerler, derin bir yankı ve tutarlılık sağlamak için gerçekten gereklidir. İnsanlar arasında bu tür bir yankı yaratmanın yollarını biliyoruz; peki, AI için nasıl başaracağız? Bu soru derinlemesine düşünmeyi gerektiriyor.