
LinkedIn联合创始人里德·霍夫曼(Reid Hoffman)公开反驳“人工智能将终结人类”的论调。在华盛顿举行的一场行业峰会上,霍夫曼指出,此类末日观点大多遥不可及且完全可控,批评持此论者只是在扮演“卡珊德拉”角色,过度渲染危机。
霍夫曼认为,继续推进前沿人工智能研究具有积极意义,尤其是在应对生物安全和网络安全风险方面。他强调,防范生物与网络风险、创造经济繁荣是推动技术前行的正当理由,因此“放缓步伐并不重要”。
针对Anthropic和OpenAI领导者在处于行业领先地位时呼吁放缓前沿AI研究的举动,霍夫曼提出质疑:“既然你们已经领先,随时可以放慢脚步。”他指出,相比单纯降速,更关键在于前沿实验室必须妥善管理“递归自我改进”(recursive self-improvement)。业内担忧,这种让AI构建自身及继任者的过程可能引发指数级增长,导致模型制造商失去掌控。
此前,Anthropic前研究员雅各布·科克森(Jacob Coxon)在辞职信中指责该公司“在很大程度上发起”了这场关于递归自我改进的竞争。近期,Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)呼吁前沿AI实验室“控制节奏”,利用这段时间更好地对齐AI模型,SpaceX首席执行官埃隆·马斯克(Elon Musk)和OpenAI首席执行官山姆·奥特曼(Sam Altman)随后表达了对这一目标的赞同。霍夫曼撰文评价称,这是“朝着正确方向迈出的步骤”。
扎克伯格反对行业统一协议
然而,业界对于是否采取统一回应策略存在分歧。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)近日在社交媒体X上表示,公司无需达成阿莫迪所倡导的行业全面协议,各实验室应有责任也有动力,以能够安全训练模型所需的速度独立前进。
扎克伯格透露,Meta已将其超级智能实验室团队开发的AI代理产品Muse推迟数月发布,旨在加强模型安全性。“我们没有要求别人在我们之前这样做,我们只是直接去做了。”