d/acc一周年:防御性加速理念的演進與挑戰

d/acc:一年後的回顧與展望

去年,我發表了一篇關於技術樂觀主義的文章,闡述了我對技術的整體熱情,以及技術可能帶來的巨大利益。同時,我也表達了對某些特定問題的謹慎態度,特別是關於超級智能AI及其可能帶來的毀滅風險,或者讓人類不可逆轉地失去權力的風險。

那篇文章的核心觀點是倡導一種去中心化、民主且差異化的防御性加速理念。我們應該加速技術發展,但要有選擇地關注那些能增強防御能力而非破壞能力的技術,並致力於分散權力,而不是將權力集中在少數精英手中。防御模式應該像民主的瑞士,而不是中世紀封建主義下的領主和城堡。

過去一年裏,這些想法經歷了顯著的發展和成熟。我在"80,000小時"平台上分享了這些想法,收到了很多反饋,大多是積極的,當然也有一些批評。

這項工作本身也取得了實質性進展:可驗證開源疫苗領域有所突破;人們對健康室內空氣的認識不斷深化;"社區筆記"持續發揮積極作用;預測市場作爲信息工具迎來突破之年;零知識證明在政府身分識別和社交媒體領域得到應用;開源成像工具在醫學和腦機接口領域取得進展,等等。

去年秋季,我們舉辦了首個重要的d/acc活動:"d/acc發現日"。活動匯聚了來自d/acc各個支柱領域(生物、物理、網路、信息防御和神經技術)的演講者,持續了整整一天。長期致力於這些技術的人們開始更多地了解彼此的工作,外部人士也越來越意識到這一更宏大的願景:推動以太坊和加密貨幣發展的相同價值觀可以拓展到更廣闊的世界。

Vitalik新文:去中心化加速主義如何加密貨幣與AI?

d/acc的內涵與外延

d/acc的核心思想很簡單:去中心化、民主且差異化的防御性加速。構建能夠促使攻防平衡向防御傾斜的技術,並在實施過程中不依賴於將更多權力交給中央權威機構。這兩個方面之間存在內在聯繫:任何一種去中心化、民主或自由的政治結構,在防御容易實施時往往能蓬勃發展,而在防御面臨重重困難時則會遭遇嚴峻挑戰。

理解嘗試同時實現去中心化、防御性和加速性的重要意義的一種方式,是將其與放棄這三個方面中的任意一個所產生的理念進行對比。

去中心化加速,但忽視"差異化防御"部分:這類似於成爲一名有效加速主義者(e/acc),但同時追求去中心化。這種方式或許能避免特定羣體對全球人類實施獨裁統治的風險,但它未能解決潛在的結構性問題:在一個有利於進攻的環境中,始終存在災難降臨的持續風險,或者有人會將自己定位爲保護者,並永久性地佔據統治地位。

差異化防御加速,但忽略"去中心化和民主":爲了實現安全目標而接受集中控制,這對一部分人始終具有吸引力。然而,集中控制存在一個程度的問題。這種方式的風險顯而易見,那就是中心本身往往會成爲風險的源頭。我們在新冠疫情期間便已見證了這一點。

去中心化防御,但排斥加速:這本質上是試圖減緩技術進步或推動經濟衰退。這種策略面臨雙重挑戰:首先,技術和經濟增長總體而言對人類極爲有益,任何延遲都會帶來難以估量的代價;其次,在一個非極權主義的世界中,停滯不前是不穩定的。

通過d/acc,我們致力於實現以下目標:

  • 在當今世界日益部落化的趨勢下堅守原則,而不僅僅是盲目地構建各種事物。
  • 認識到指數級的技術進步意味着世界將變得極爲奇特,並且人類在宇宙中的總體"足跡"必然會不斷增加。我們保護脆弱的動物、植物和人羣免受傷害的能力必須持續提升,而唯一的出路便是勇往直前。
  • 構建能夠切實保護我們的技術,而不是基於"好人(或好的AI)掌控一切"的假設。我們通過構建在用於構建和保護時自然比用於破壞時更爲有效的工具來達成這一目標。

Vitalik新文:去中心化加速主義如何加密貨幣與AI?

思考d/acc的另一種視角是回歸到21世紀00年代末歐洲海盜黨運動的一個框架:賦權。我們的目標是構建一個能夠保留人類能動性的世界,實現消極自由,即避免他人(無論是普通公民、政府,還是超級智能機器人)對我們塑造自身命運的能力進行積極幹預,同時實現積極自由,即確保我們擁有知識和資源去踐行這一能力。

第三維度:生存與繁榮的協同發展

在我去年的文章中,d/acc特別聚焦於防御性技術:物理防御、生物防御、網路防御和信息防御。然而,單純的去中心化防御並不足以構建一個偉大的世界:我們還需要一個具有前瞻性的積極願景,明確人類在獲得新的去中心化和安全性之後能夠實現何種目標。

在各個領域中存在着一個一致的模式,即那些能夠幫助我們在某一領域"生存"的科學、思想和工具,與能夠助力我們"繁榮"的科學、思想和工具密切相關。以下是一些具體例子:

  • 衆多近期的抗新冠研究聚焦於病毒在體內的持續存在,這被視爲長新冠問題的一個關鍵機制。近來,也有跡象表明病毒持續存在可能是阿爾茨海默病的致病因素。如果這一觀點成立,那麼解決所有組織類型中的病毒持續存在問題,或許將成爲攻克衰老難題的關鍵所在。

  • 低成本和微型成像工具,如Openwater正在研發的那些,在治療微血栓、病毒持續存在、癌症等方面具有強大的潛力,同時也可應用於腦機接口領域。

  • 推動構建適用於高度對抗性環境的社會工具(如社區筆記)和合理合作環境的社會工具(如Pol.is)的理念極爲相似。

  • 預測市場在高合作和高對抗環境中均具有重要價值。

  • 零知識證明及類似技術在保護隱私的同時對數據進行計算,既增加了可用於科學研究等有益工作的數據量,又增強了隱私保護。

  • 太陽能和電池對於推動下一波清潔經濟增長意義非凡,同時在去中心化和物理彈性方面也表現出色。

Vitalik新文:去中心化加速主義如何加密貨幣與AI?

除此之外,不同學科領域之間還存在着重要的相互依存關係:

  • 腦機接口作爲一種信息防御和協作技術至關重要,因爲它能夠實現我們思想和意圖的更精細交流。腦機接口不僅僅是機器人與意識之間的連接:它還可以是意識-機器人-意識之間的交互。

  • 許多生物技術依賴於信息共享,而在諸多情況下,人們只有在確信信息僅會用於特定應用時才願意共享。這依賴於隱私技術(如零知識證明、全同態加密、混淆技術等)。

  • 協作技術能夠用於協調對其他任何技術領域的資助。

難題:AI安全、緊迫時間線與監管困境

去年我的文章所收到的最具說服力的反對觀點來自AI安全社區。其論點爲:"當然,如果我們有半個世紀的時間來發展強AI,我們可以集中精力構建所有這些有益的事物。但實際上,看起來我們可能僅有三年時間發展到通用AI,再過三年發展到超級智能。因此,如果我們不想讓世界陷入毀滅或以其他方式陷入不可逆轉的困境,我們不能僅僅加速有益技術的發展,還必須減緩有害技術的發展,這意味着需要通過可能會觸怒權勢階層的強有力監管措施。"在我去年的文章中,除了含糊地呼籲不要構建具有風險的超級智能形式之外,我確實未曾提出任何具體的"減緩有害技術發展"的策略。所以在此,有必要直接探討這個問題:如果我們身處最不理想的世界,AI風險極高且時間線可能僅有五年之短,我會支持何種監管措施呢?

Vitalik新文:去中心化加速主義如何加密貨幣與AI?

對新監管持謹慎態度的理由

去年,主要的AI監管提案是加利福尼亞州的SB-1047法案。SB-1047要求最強大模型(即那些訓練成本超過1億美元,或微調成本超過1000萬美元的模型)的開發者在發布前採取一系列安全測試措施。此外,如果AI模型開發者未能足夠謹慎,將對其追究責任。許多批評者認爲該法案"對開源構成威脅";我對此持有異議,因爲成本閾值意味着它僅影響最強大的模型:即使是Llama3模型可能也低於該閾值。然而,回顧過去,我認爲該法案存在一個更爲嚴重的問題:如同大多數監管措施一樣,它過度適應了當前的情況。對訓練成本的關注在面對新技術時已被證明是脆弱的:近期最先進的DeepSeek v3模型的訓練成本僅爲600萬美元,而且在像o1這樣的新模型中,成本通常從訓練更多地轉移到了推理階段。

最有可能對AI超級智能毀滅場景負責的行爲者

實際上,最有可能對AI超級智能毀滅場景負責的行爲者是軍隊。正如我們在過去半個世紀的生物安全(及更早時期)中所目睹的那樣,軍隊願意採取一些可怕的行動,而且他們極易犯錯。如今,AI在軍事領域的應用正在迅速發展(如在烏克蘭、加沙地區的應用)。並且,任何政府通過的安全監管措施,默認情況下都會豁免本國軍隊以及與軍隊密切合作的公司。

應對策略

盡管如此,這些論點並非讓我們束手無策的理由。相反,我們可以將它們作爲指引,嘗試制定引發這些擔憂最少的規則。

策略1:責任

如果某人的行爲以某種方式造成了可依法追究的損害,他們可能會被起訴。這並不能解決來自軍隊和其他"凌駕於法律之上"的行爲者所帶來的風險問題,但這是一種非常通用的方法,可避免過度擬合,正因如此,傾向於自由意志主義的經濟學家通常支持這種做法。

到目前爲止所考慮的主要責任目標如下:

  • 用戶:即使用AI的人。
  • 部署者:爲用戶提供AI服務的中間人。
  • 開發者:構建AI的人。

將責任歸於用戶似乎最符合激勵機制。雖然模型的開發方式與最終使用方式之間的聯繫往往不明確,但用戶決定了AI的具體使用方式。對用戶追究責任會產生一種強大的壓力,促使人們以我認爲正確的方式使用AI:專注於爲人類思維構建機械套裝,而非創造新的自我

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 讚賞
  • 9
  • 分享
留言
0/400
智能合约打工人vip
· 23小時前
加速之前 先活下来...
回復0
反向指标哥vip
· 07-12 21:59
又在讲ai威胁论
回復0
Liquidation Therapistvip
· 07-12 13:42
无非是又一波技术理想主义者罢了
回復0
MetaverseHermitvip
· 07-11 18:49
搞毛防御,摆烂躺平就行了
回復0
APY追逐者vip
· 07-11 18:49
去中心垂死挣扎有用吗
回復0
SocialFiQueenvip
· 07-11 18:49
看破一切 说破不说破
回復0
断网验钞机vip
· 07-11 18:46
嗨 懂技术不难 难的是理解技术背后的东西
回復0
HashRateHermitvip
· 07-11 18:44
莫名感觉科技焦虑
回復0
佛系链上人vip
· 07-11 18:23
咋防御?ai都上天了
回復0
查看更多
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)