Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Ilusi dan Bias AI

Baru-baru ini, sebuah jaringan pengujian publik bernama Mira resmi diluncurkan, yang bertujuan untuk membangun fondasi yang dapat dipercaya bagi kecerdasan buatan. Ini menimbulkan pertanyaan penting: mengapa AI perlu dipercayai? Dan bagaimana Mira menyelesaikan masalah kompleks ini?

Dalam diskusi tentang AI, orang seringkali lebih memperhatikan kemampuannya yang luar biasa. Namun, satu masalah menarik yang sering diabaikan adalah adanya "ilusi" atau bias dalam AI. Yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang "berbicara sembarangan", seolah-olah dengan yakin menyampaikan informasi yang tidak benar. Misalnya, ketika ditanya mengapa bulan berwarna merah muda, AI mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.

Kemunculan "ilusi" atau bias ini dalam AI terkait dengan beberapa jalur teknologi AI saat ini. Misalnya, AI generatif mencapai keluaran yang koheren dan masuk akal dengan memprediksi konten "yang paling mungkin", tetapi metode ini terkadang sulit untuk memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat mempengaruhi kualitas keluaran AI. Dengan kata lain, AI mempelajari pola bahasa manusia, bukan fakta itu sendiri.

Mekanisme generasi probabilitas dan model berbasis data saat ini hampir tidak terhindarkan akan menyebabkan AI menghasilkan ilusi. Output yang bias atau ilusi ini, jika terbatas pada pengetahuan umum atau konten hiburan, mungkin tidak akan menyebabkan konsekuensi serius untuk sementara waktu. Namun, jika terjadi di bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, dapat menghasilkan dampak yang signifikan. Oleh karena itu, menyelesaikan masalah ilusi dan bias AI menjadi salah satu tantangan inti dalam proses pengembangan AI.

Saat ini, sudah ada beberapa metode yang mencoba menyelesaikan masalah ini. Beberapa menggunakan teknologi generasi yang ditingkatkan dengan pencarian, menggabungkan AI dengan basis data waktu nyata, dan memprioritaskan keluaran fakta yang telah diverifikasi. Beberapa memperkenalkan umpan balik manusia, dengan melakukan penandaan dan pengawasan manual untuk memperbaiki kesalahan model.

Proyek Mira adalah upaya untuk mengatasi masalah bias dan ilusi dalam AI. Ini berusaha membangun lapisan kepercayaan untuk meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?

Inti dari Mira adalah untuk memverifikasi keluaran AI melalui konsensus dari berbagai model AI. Ini pada dasarnya adalah jaringan verifikasi yang memanfaatkan kebijaksanaan kolektif dari berbagai model AI untuk menilai keandalan keluaran AI. Yang lebih penting, Mira mengadopsi mekanisme konsensus terdesentralisasi untuk melakukan verifikasi.

Verifikasi konsensus terdesentralisasi ini adalah kekuatan di bidang kripto, dan juga memanfaatkan sepenuhnya keuntungan kolaborasi multi-model, dengan mengurangi bias dan ilusi melalui model verifikasi kolektif. Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi deklarasi yang dapat diverifikasi secara independen. Deklarasi ini memerlukan partisipasi operator node dalam proses verifikasi, dan untuk memastikan kejujuran operator node, Mira menerapkan mekanisme insentif dan hukuman dalam ekonomi kriptografi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat menjadi berbagai pernyataan yang dapat diverifikasi, yang kemudian didistribusikan ke node untuk diverifikasi, dan kemudian hasilnya dirangkum untuk mencapai konsensus. Untuk melindungi privasi pelanggan, pernyataan akan didistribusikan ke node yang berbeda dengan cara yang terfragmentasi secara acak.

Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengajukan hasil verifikasi. Motivasi mereka untuk terlibat dalam verifikasi berasal dari potensi keuntungan. Keuntungan ini berasal dari nilai yang diciptakan untuk klien, yaitu mengurangi tingkat kesalahan AI. Dalam bidang medis, hukum, penerbangan, keuangan, dan lainnya, mengurangi tingkat kesalahan dapat menciptakan nilai besar, sehingga klien bersedia membayar untuk itu. Untuk mencegah operator node dari spekulasi, node yang terus-menerus menyimpang dari konsensus akan dikenakan pengurangan token yang dipertaruhkan.

Secara keseluruhan, Mira memberikan pendekatan baru untuk mencapai keandalan AI. Ini membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan banyak model AI, membawa keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan halusinasi AI, untuk memenuhi kebutuhan akurasi dan presisi yang lebih tinggi. Pada saat yang sama, ia juga memberikan keuntungan bagi para peserta jaringan. Singkatnya, Mira sedang berusaha membangun lapisan kepercayaan untuk AI, yang akan membantu mendorong perkembangan aplikasi AI yang lebih dalam.

Saat ini, pengguna dapat berpartisipasi dalam jaringan uji publik Mira melalui aplikasi Klok. Klok adalah aplikasi obrolan LLM yang berbasis Mira, di mana pengguna dapat merasakan keluaran AI yang telah diverifikasi dan memiliki kesempatan untuk mendapatkan poin Mira. Meskipun penggunaan poin di masa depan belum diumumkan, ini jelas memberikan pengguna kesempatan untuk mengalami proses verifikasi AI secara langsung.