*转发原创标题:“‘我只支持开源’应成为主流观点”
我们常常听到关于某些激进技术的担忧:这些技术可能加剧权力不平等,因为最终它们只会被富人和有权势者掌控。
“是否会有人被抛在后面?我们的社会会比现在更加不平等吗?”他问道。Tuljapurkar 预测,寿命的激增将局限于富裕国家,因为这些国家的公民能够支付抗衰老技术费用,政府也能承担科研资金。这种差距使当前的医疗获取问题更加复杂,因为富人与贫民的距离,不仅体现在生活质量,还延伸到寿命长短。
“大型制药企业在让无力支付的人获得药物方面一向非常苛刻,这早已是业界惯例。”他补充道。
如果抗衰老技术在自由市场无监管分发,“我认为我们极有可能落入全球性的永久下层阶级陷阱,一些国家会被牢牢钉死在目前的死亡率状态”,Tuljapurkar 说……“一旦出现这种情况,就会形成负反馈与恶性循环。被锁定在外的国家,将持续被排除在外。”
另一篇关于基因增强影响的文章也表达了类似的担忧:
本月初,科学家宣布他们已在一个人类胚胎中编辑了基因,以去除致病突变。这项突破令人惊叹,也让无数父母看到希望。谁不愿意为孩子争取免于本可避免的苦难的机会?
但事情不会就此终结。许多父母会希望通过基因提升为子女赢得最大优势。有经济实力的人能够获得这些服务。这种能力还带来了伦理争议,不仅关乎技术的最终安全性。高昂的费用将导致资源稀缺,进一步激化原本已经不断扩大的收入不平等。
其他科技领域同样存在类似的担忧:
在许多针对新兴技术的批评中,都能看到这种主题。另一种略有相关但本质不同的担忧是,科技产品常常成为数据收集、厂商锁定、故意隐瞒副作用(如现代疫苗曾因这一点受质疑)等滥用工具。新技术往往赋予供应方更多“给你产品但不给你权利或完整信息”的控制权。从这个角度来看,传统技术反而看起来更安全。这同样是技术强化强者地位的方式,但这里的本质是生产商对用户的权力压制。这和前文那些单纯的使用机会不平等有所不同。
我本人极为支持技术进步。在“全面推动进步”与“原地踏步”二选一时,除了极少数领域(如功能增强研究、武器、超级智能 AI)外,我都会坚定支持推进,尽管伴随风险。原因在于总体来看,技术带来的好处——更健康且更长久的生命、更繁荣的社会、在 AI 提升下保有更多人类意义,以及让长辈以真实生命参与文化传承,而非仅留在史册记忆中——要远远大于弊端(这些弊端往往被高估)。
但如果我站在那些更少看到技术积极面,或更担心权力者会借新技术固守经济主导权与控制力,或者两种顾虑兼有的人视角呢?比如我对“智能家居”就有类似顾虑——与其能对灯泡说话,我更不希望自己的生活被 Google 或 Apple 实时监听。如果我设想更悲观的假设,我也会担忧某些媒体技术:它们如果增强了强势群体的信息广播能力,就可能被用来操控甚至淹没其他声音,对于这些技术来说,信息或娱乐效率的提升未必能弥补权力结构的失衡。
在这些情境下,我认为一个被严重低估的观点是:只支持那些以开源方式开发的技术。
开源加快技术进步有扎实的理由——它让更多人能够基于他人创新持续前进。但也有充分理由认为开源会降低进步速度——它阻止人们通过多种潜在方式商业化。然而,开源带来的最大影响其实与“进步快慢”无关:
开源消除了厂商锁定的风险。如果产品是开源的,制造商无法通过远程取消功能或破产导致产品报废(如由于制造商倒闭而导致高度计算机化、联网汽车无法使用的担忧)。你始终拥有维修权,可以选择自己或第三方完成维修。
我们可以结合文首提到的激进技术进一步分析:
如果你的智能汽车是开源的,就可以验证制造商是否在监控你,也不用担心失去厂商支持后无法继续使用爱车。
下图总结了上述观点:
需要注意的是,“只在开源模式下开发”这条路径的覆盖范围更广,因为开源对技术进步与分权风险的影响具有更大不确定性。但平均来看,在众多环境下这都是一种优选。
有人反对开源强大技术,理由之一是会带来零和博弈与无差别滥用的风险。让每个人都拥有核武器确实会消除核不平等(现实中我们看到强国凭借核垄断恣意霸凌),但也几乎必然带来数十亿人的死亡。再比如,整容手术如果人人可做,可能引发零和竞争,所有人耗费巨资、冒健康风险,最终审美门槛提升,社会并未实质改善。有些生物技术甚至可能在更宏观层面引发类似现象。事实上,很多(特别是生物科技类)技术介于两者之间。
因此,“只有由值得信赖的守门人严格管控技术我才支持”是另一种有力论据。守门人可以开放技术积极用途、屏蔽消极用途,甚至肩负确保合规、无歧视普及的公共使命。然而,我高度怀疑这种体制的可行性。最根本理由在于,我普遍不相信现代社会真正存在值得信赖的守门人。许多最具零和性和高风险用途的技术源自军工,而军队自律史实在堪忧。
以苏联生物武器计划为例:
据 Hoffman 指出,戈尔巴乔夫在星球大战和核武控制上表现克制,但对苏联非法细菌武器问题的态度却令人费解。
戈尔巴乔夫 1985 年上任时,苏联已拥有由勃列日涅夫主导的大型生物武器项目,尽管该国早已签署《生物武器公约》。除炭疽外,他们还研究天花、鼠疫、土拉菌等,但具体用途与目标并不明确。
“Kateyev 的材料显示,80 年代中后期中共中央多次通过生物武器项目相关决议。很难相信这些决议都在戈尔巴乔夫不知情下签署。”Hoffman 说。
“甚至 1990 年 5 月戈尔巴乔夫还收到一份有关生物武器计划的备忘录,但其中依然未披露全部内容。苏联不仅误导了世界,也误导了自家领导层。”
此外,关于苏联生物武器项目在解体后可能流向其他国家的研究,详见此处。
其他国家同样存在严重错误,无需赘述多国介入功能增强研究与相关风险(本书有详述)。数字软件(如金融)领域,依赖关系武器化的历史说明,防范滥用的机制极易沦为运营方单方面的权力工具。
守门人的另一大问题在于,他们终究由国家政府掌控,相关体系或许能保障国内平等,但缺乏跨国间真正有效的平等机制。
需要指出的是,本文并非在主张“守门人也不可靠,因此应全面放任技术自由发展”(至少对于功能增强研究决不能这样)。而是有两点建议:
同样要注意,“开源”绝不等于“谁都能随意操作”。比如我支持在开源、开放科学模式下推进地球工程,但这并不是“任何人都可随意改变河流或向大气层撒布物质”,实际上,法律和外交约束在现实中是有效的,这类行为很容易被监测,国际协议的执行性很强。开源的价值在于:(i)提升科技的民主化程度(如让多个国家都有机会参与),(ii)信息更加透明易得,有利于公众独立判断相关活动是否有效、是否安全。
我认为,开源是防止财富与权力集中、减少信息不对称风险最有力的“Schelling 点”(协调点/焦点)。当然,可以设计更精巧的治理结构将正面与负面用例区分,但在当今混乱世界中,最容易被社会广泛理解和践行的机制,就是创建公开透明、人人可监督和参与的体系。
在很多领域,加快技术进步(或在极少数场合极力放慢速度以等待配套措施)比以上顾虑更重要。但在具体边际情况下,关注进步方式而非速度,并将“只做开源”作为可操作、易理解的行业准则推动进步,其实是一种被普遍低估的有效路径。
免责声明: