d/acc: Tinjauan dan Renungan Setelah Satu Tahun

Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan antusiasme saya terhadap teknologi dan manfaat besar yang mungkin dibawanya, sambil juga menyatakan sikap hati-hati terhadap beberapa masalah tertentu, terutama risiko kehancuran yang mungkin ditimbulkan oleh AI super pintar atau risiko kehilangan kekuasaan secara tidak dapat diubah bagi manusia.

Pokok pikiran artikel ini adalah mendorong sebuah ide: akselerasi defensif yang terdesentralisasi, demokratis, dan berbeda-beda. Kita harus mempercepat perkembangan teknologi, tetapi dengan selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita alih-alih merusak, dan berkomitmen untuk mendistribusikan kekuasaan, bukan mengkonsentrasikannya pada segelintir elit. Pertahanan ini harus meniru model demokratis Swiss dan model Zomia yang hampir anarkis dalam sejarah, bukan model feodal abad pertengahan di mana tuan dan kastil mendominasi.

Dalam setahun terakhir, ide dan pemikiran ini telah berkembang dan matang secara signifikan. Saya telah membagikan pemikiran ini di platform "80.000 Jam" dan menerima banyak umpan balik, sebagian besar bersifat positif, tentu saja ada juga beberapa suara kritis.

Pekerjaan ini sendiri juga telah mencapai kemajuan yang substansial: kemajuan telah dicapai di bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran akan nilai udara dalam ruangan yang sehat terus meningkat; catatan komunitas terus berperan positif; pasar prediksi telah mengalami tahun terobosan sebagai alat informasi; bukti nol pengetahuan telah diterapkan dalam identifikasi pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka telah diterapkan di bidang kedokteran dan antarmuka otak-mesin, dan sebagainya.

Musim gugur lalu, kami mengadakan acara d/acc penting pertama: "Hari Eksplorasi d/acc" ( d/aDDy ), acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc ( biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf ), berlangsung selama sehari penuh. Orang-orang yang telah lama berkomitmen untuk teknologi ini mulai lebih memahami pekerjaan satu sama lain, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.

Makna dan Ekstensi d/acc

Bayangkan situasi di tahun 2042. Anda melihat sebuah berita di media yang menyatakan bahwa kota tempat Anda tinggal mungkin akan mengalami wabah baru. Untuk berita semacam ini, Anda sudah terbiasa: orang-orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis yang nyata. Dua wabah potensial sebelumnya terdeteksi pada tahap awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil ditekan pada tahap awal. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa kemungkinan munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda khawatir.

Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan bantuan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui tes napas sekali, maupun setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diharapkan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apa pun, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka.

Karena Anda memiliki masalah kekebalan, Anda bertindak lebih berhati-hati: asisten AI pribadi lokal sumber terbuka yang Anda gunakan, selain menjalankan tugas-tugas umum seperti navigasi, rekomendasi restoran, dan kegiatan, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan memanfaatkan bukti nol pengetahuan dan teknologi privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda berminat untuk menyumbangkan data ke kumpulan data ini, ada asisten AI pribadi lainnya yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).

Dua bulan kemudian, pandemi tiba-tiba mereda: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara berbunyi dan menunjukkan adanya virus, dan jika hasil tes individu positif, maka diisolasi di rumah. Langkah ini cukup untuk menurunkan tingkat penularan yang sebelumnya telah sangat berkurang akibat penyaringan udara yang kuat secara pasif menjadi di bawah 1. Sebuah simulasi menunjukkan penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menyebabkan dampak serius.

Kegiatan hari eksplorasi d/acc telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi untuk benar-benar membangun hubungan erat antara orang-orang dengan latar belakang dan minat yang berbeda adalah hal yang tidak mudah. Saya masih ingat pengalaman dipaksa menonton opera yang panjang saat SMP dan SMA, di mana saya merasa opera tersebut membosankan. Saya sangat sadar bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku sains komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar menyukai untuk memahami berbagai pekerjaan dari berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada dominasi, perlambatan, dan penghancuran, maka kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai kemajuan yang signifikan dalam hal ini, hanya poin ini saja sudah cukup untuk menunjukkan nilai berharga dari gagasan ini.

Inti dari pemikiran d/acc sangat jelas dan ringkas: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan menuju ke arah pertahanan, dan pada saat pelaksanaannya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang mendasar antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung dapat berkembang pesat ketika pertahanan mudah dilaksanakan, sementara ketika pertahanan menghadapi banyak kesulitan, mereka akan menghadapi tantangan berat—dalam situasi tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling berhadapan, yang akhirnya mencapai keadaan seimbang yang dikuasai oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba untuk secara bersamaan mewujudkan desentralisasi, defensif, dan akselerasi adalah dengan membandingkannya dengan konsep yang dihasilkan dari melepaskan salah satu dari ketiga aspek ini.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensiasi"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi pada saat yang sama mengejar desentralisasi. Banyak orang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka dengan bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan minat yang lebih moderat terhadap "AI desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" secara jelas kurang.

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu mendiktatori manusia secara global, tetapi tidak berhasil menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan bagi serangan, selalu ada risiko bencana yang berkelanjutan, atau seseorang akan menempatkan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal AI, itu juga tidak dapat dengan tepat mengatasi risiko kekuasaan manusia yang secara keseluruhan tereduksi dibandingkan dengan AI.

Percepatan pertahanan yang terdiversifikasi, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, hal ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh semacam itu serta kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin merupakan satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, ada masalah derajat dengan kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat yang biasanya diabaikan tetapi tetap berbahaya, terwujud dalam bidang bioteknologi ( misalnya makanan, vaksin ) penolakan terhadap pengawasan publik, serta membiarkan tindakan penolakan ini tidak ditantang dengan norma tertutup.

Risiko dari cara ini jelas terlihat, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsional yang didanai oleh beberapa pemerintah dunia mungkin menjadi akar penyebab pandemi, epistemologi terpusat menyebabkan Organisasi Kesehatan Dunia bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang dipaksa dan mandat vaksin telah memicu kemungkinan reaksi politik yang berlangsung selama puluhan tahun. Situasi serupa mungkin akan terjadi lagi dalam konteks risiko yang terkait dengan AI atau teknologi risiko lainnya. Sebaliknya, pendekatan terdesentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Secara esensial, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara umum, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi umat manusia, dan penundaan apapun akan membawa biaya yang sulit untuk diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, dan mampu menemukan cara yang tampaknya masuk akal untuk terus maju, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi pada kondisi tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah contohnya; keberhasilan non-proliferasi nuklir hingga saat ini juga demikian. Namun, strategi ini tidak dapat berhasil selamanya.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Dalam tren dunia yang semakin terpecah belah saat ini, berpegang pada prinsip, dan bukan hanya membangun berbagai hal secara membabi buta - sebaliknya, kami berharap membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan lebih baik.
• Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" keseluruhan umat manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan populasi yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang dapat melindungi kita secara nyata, bukan berdasarkan asumsi "orang baik ( atau AI baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk merusak.

Memikirkan perspektif lain dari d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa di akhir tahun 2000-an: pemberdayaan.

Tujuan kami adalah untuk membangun dunia yang dapat menjaga agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga biasa, pemerintah, atau superintelligent robot ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan tersebut. Ini mencerminkan tradisi liberalisme klasik yang telah berlangsung selama beberapa abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", dan penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses penyelesaian masalah global bersifat partisipatif dan terdistribusi secara luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai salah satu cara untuk mencapai tujuan-tujuan yang sama.

![Vitalik artikel baru: Bagaimana desentralisasi akselerasionisme menghubungkan cryptocurrency dan AI?](