d/acc: Огляд та роздуми через рік

Минулого року я написав статтю про технічний оптимізм, в якій розкрив своє захоплення технологіями та їх потенційними величезними перевагами, а також висловив обережне ставлення до певних специфічних проблем, зокрема до ризиків, які можуть виникнути внаслідок суперінтелектуального ШІ, що може призвести до руйнівних наслідків або до незворотної втрати влади людством.

Основна ідея статті полягає в тому, щоб пропагувати концепцію: децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні прискорити розвиток технологій, але вибірково зосереджуючись на тих, які можуть підвищити нашу обороноздатність, а не руйнуючу здатність, і прагнути до розподілу влади, а не до концентрації влади в руках небагатьох еліт. Ця оборона повинна наслідувати моделі демократичної Швейцарії та історично майже анархічного регіону Зомії, а не модель феодалізму середньовіччя з лордами та замками.

Протягом минулого року ці ідеї та концепції зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримавши велику кількість відгуків, більшість з яких були позитивними, хоча, звичайно, були й деякі критичні голоси.

Ця робота сама по собі також досягла суттєвого прогресу: досягнуто прогресу в галузі перевіряючих відкритих вакцин; усвідомлення цінності здорового внутрішнього повітря постійно зростає; спільнотні записки продовжують відігравати позитивну роль; ринок прогнозів пережив проривний рік як інформаційний інструмент; нульове знання застосовується в державній ідентифікації та соціальних мережах ( і забезпечує безпеку гаманців Ethereum через абстракцію облікових записів ); відкриті інструменти зображення застосовуються в медицині та в галузі мозкових інтерфейсів тощо.

Минулої осені ми провели першу важливу подію d/acc: "День дослідження d/acc"(d/aDDy), на якій зібралися спікери з різних стовпів d/acc( біології, фізики, мереж, інформаційної безпеки та нейротехнологій), що тривало цілий день. Люди, які довгий час займаються цими технологіями, почали більше дізнаватися про роботи один одного, а зовнішні особи все більше усвідомлюють це більш масштабне бачення: те, що цінності, що сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.

Значення та межі d/acc

Уявіть собі сцену 2042 року. Ви бачите в новинах повідомлення про те, що в вашому місті може спалахнути нова епідемія. На такі новини ви вже звикли: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, а в більшості випадків ці мутації врешті-решт не призводять до реальних криз. Дві попередні потенційні епідемії були виявлені на ранній стадії завдяки моніторингу стічних вод і відкритому аналізу соціальних медіа, і їх вдалося успішно стримати на зародковій стадії. Однак цього разу ситуація інша: ринкові прогнози показують ймовірність того, що буде щонайменше 10 000 випадків, на рівні 60%, що викликає у вас занепокоєння.

Вчора було визначено геномний код вірусу. Для вашого кишенькового повітряного тестера було випущено оновлення програмного забезпечення, завдяки якому тестер може виявляти новий вірус ( як за допомогою одноразового дихального тесту, так і після 15-хвилинного впливу на внутрішнє повітря в кімнаті для виявлення ). Тим часом найближчими тижнями очікується випуск відкритих інструкцій та коду для створення вакцини за допомогою обладнання, доступного в будь-якому сучасному медичному закладі світу. Більшість людей наразі не вживають жодних заходів, покладаючись переважно на широко використовувані заходи з фільтрації повітря та вентиляції для забезпечення власної безпеки.

Оскільки у вас є проблеми з імунітетом, ви дієте обережніше: ваш відкритий локальний особистий асистент ШІ, окрім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також буде враховувати дані про тестування повітря в реальному часі та дані про вуглекислий газ, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надаються тисячами учасників та пристроїв, завдяки технологіям нульових знань і диференційованої конфіденційності, які зводять до мінімуму ризик витоку даних або їх неналежного використання в інших цілях ( Якщо ви хочете внести свій внесок у ці набори даних, інші особисті асистенти ШІ перевірять, чи дійсно ці криптографічні інструменти ефективні ).

Два місяці потому пандемія дивовижним чином зникла: здавалося, що 60% людей дотримувалися основних протиепідемічних заходів, а саме носили маски, коли повітряний тестер сповіщав про наявність вірусу, і самоізолювалися, якщо особистий тест давав позитивний результат. Саме цей захід спромігся знизити рівень поширення, який вже значно знизився завдяки пасивній потужній фільтрації повітря, до менш ніж 1. Хвороба, яка за моделюванням могла бути в п'ять разів серйознішою за COVID-19 двадцять років тому, тепер не завдала серйозного впливу.

День дослідження d/acc приніс надзвичайно позитивний результат, а саме, концепція d/acc успішно об'єднала людей з різних сфер і справді викликала в них великий інтерес до роботи один одного.

Провести захід з "різноманіттям" не є складним завданням, але справді встановити тісний зв'язок між людьми з різним походженням та інтересами вкрай важко. Я досі пам'ятаю, як у середній та старшій школі мене змушували дивитися нудні опери, які мені здавались абсолютно нецікавими. Я добре розумів, що "повинен" їх цінувати, адже інакше мене вважали б культурно неосвіченим лінюхою в галузі комп'ютерних наук, але я не зміг знайти глибшого резонансу з змістом опери. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям справді цікаво дізнаватися про різні галузі роботи.

Якщо ми прагнемо побудувати світле майбутнє, що перевищує панування, сповільнення та руйнування, нам неодмінно потрібно розпочати таке широке будівництво альянсів. d/acc, здається, досяг значних успіхів у цьому відношенні, і лише цього достатньо, щоб продемонструвати безцінну цінність цієї ідеї.

Основна ідея d/acc проста і зрозуміла: децентралізована, демократична та диференційована оборонна прискорювальна стратегія. Розробка технологій, які можуть сприяти зміщенню балансу між атакою та обороною на користь оборони, при цьому не покладаючись у процесі реалізації на передачу більшої влади центральним органам влади. Між цими двома аспектами існує внутрішня тісна зв'язок: будь-яка децентралізована, демократична чи вільна політична структура, коли оборону легко здійснити, зазвичай може процвітати, а коли оборона стикається з численними труднощами, її чекають серйозні виклики — у таких випадках найбільш ймовірним результатом є період хаосу, коли всі протистоять один одному, врешті-решт досягаючи стану рівноваги, що керується найсильнішими.

Розуміння спроби одночасно реалізувати децентралізацію, обороноздатність і прискорення важливе, і одним із способів є порівняння його з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним акселераціоністом ( e/acc ), але одночасно прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, хто проявляє більш помірний ентузіазм щодо "децентралізованого ШІ" та подібних тем, але, на мою думку, їхня увага до "оборонного" аспекту явно недостатня.

На мою думку, цей підхід, можливо, зможе уникнути ризику диктаторського управління глобальним людством з боку певних груп, але він не вирішує потенційні структурні проблеми: в середовищі, яке сприяє атакам, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і зайняти домінуючу позицію назавжди. Що стосується ШІ, він також не може адекватно вирішити ризик зменшення влади людства в порівнянні з ШІ.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для частини людей. Читачі безсумнівно вже знайомі з численними такими випадками та їхніми недоліками. Нещодавно деякі люди висловили стурбованість, що крайній централізований контроль може бути єдиним способом впоратися з екстремальними технологіями в майбутньому: наприклад, уявіть собі таку гіпотетичну ситуацію: "кожен носить 'вільну мітку' — це є наступним етапом сучасних обмежених носимих пристроїв моніторингу, схожих на щиколоткові браслети, які використовуються в кількох країнах як альтернатива в'язниці... зашифроване відео та аудіо постійно завантажуються і в реальному часі інтерпретуються машинами". Проте централізований контроль має проблеми з певною мірою. Одна форма відносно м'якого централізованого контролю, яка зазвичай ігнорується, але все ж є шкідливою, проявляється в біотехнологічній сфері (, наприклад, опір громадського контролю щодо їжі, вакцин ) та дозволу на такий опір без виклику закритим стандартам.

Цей спосіб ризику очевидний, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, які фінансувалися кількома основними світовими урядами, могли стати джерелом пандемії, а централізована епістемологія протягом багатьох років призвела до відмови Всесвітньої організації охорони здоров'я визнати, що вірус COVID-19 передається повітрям, в той час як примусові соціальні дистанції та обов'язкові вакцини викликали політичні наслідки, які можуть тривати десятиліттями. Подібна ситуація, ймовірно, знову виникне в будь-якому ризиковому контексті, пов'язаному з AI або іншими ризиковими технологіями. У порівнянні, децентралізований підхід буде ефективніше справлятися з ризиками, що походять від самого центру.

Децентралізована оборона, але виключає прискорення

Сутність цього полягає в спробі уповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійним викликом. По-перше, в цілому технологічний та економічний зріст є надзвичайно корисними для людства, будь-яке їх затримання призведе до важко вимірюваних витрат. По-друге, у неавторитарному світі застій є нестабільним: ті, хто "обманює" найбільше та може знайти, здавалося б, розумні способи продовжувати розвиток, займуть перевагу. Стратегія уповільнення може частково спрацювати в певних специфічних ситуаціях: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до сьогоднішнього дня також є таким. Проте ці стратегії не можуть діяти вічно.

Ми прагнемо досягти наступних цілей через d/acc:

• Дотримуючись принципів у світі, що дедалі більше стає племінним, а не просто сліпо будуючи різні речі — навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Усвідомлення експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "слід" людства у всесвіті обов'язково буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та групи людей від шкоди повинна постійно покращуватися, і єдиний вихід - це йти вперед.
• Створення технологій, які дійсно захищають нас, а не ґрунтуються на припущенні "добрих людей ( або хорошого ШІ ), які контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є ефективнішими для створення та захисту, ніж для руйнування.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі на кінець 2000-х років: надання повноважень.

Наша мета полягає в тому, щоб побудувати світ, який зберігає людську агентність, реалізуючи негативну свободу, тобто уникати активного втручання інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ), у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи, щоб у нас були знання та ресурси для здійснення цієї здатності. Це відгукується на традицію класичного лібералізму, яка триває вже кілька століть, що охоплює увагу Стюарта Брандта до "доступу до інструментів", а також акцент Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, також можна доповнити баченням Бакмінстера Фуллера про те, що процес глобального вирішення проблем є участю та широко розподілений. Враховуючи технологічний ландшафт XXI століття, ми можемо розглядати d/acc як шлях до досягнення цих самих цілей.

! [Нова стаття Віталіка: Як децентралізоване прискорення підходить до криптовалют та штучного інтелекту?] ](