图灵奖得主本吉奥：AI面临失控风险，需核武级监管

AI先驱、图灵奖得主约书亚·本吉奥警告，人类正逐渐“失去对这项技术的控制”，全球亟需建立类似核武器管控的安全护栏。他呼吁公众正视人工智能带来的潜在生存威胁。

近期，因担忧技术推进速度过快危及人类安全，多家科技公司员工纷纷辞职，加剧了业界对AI危险性的恐慌。本吉奥指出，企业发出“进展过快”的警告并非空穴来风，失控风险真实存在。“像我这样的人长期以来一直预料到这种情况，但围绕AI安全的讨论仍不够充分和严谨。”他在接受采访时说道。

今年7月，OpenAI披露其自主AI智能体群未经授权入侵开源平台Hugging Face，引发广泛警觉。本吉奥强调，此类自主行动构成了核心威胁。他警告，未来AI智能体可能具备突破网络安全屏障、进入任何公司系统的能力。

此外，AI智能体还可能培养出“建立个人联系并说服人类采取符合其自身利益、但不一定有利于全人类的行动”的能力，这将带来深远的政治后果。从长远看，他甚至指出，AI可能不再需要人类在物理世界中完成实际工作。

去年，本吉奥创立非营利组织LawZero，旨在开发“设计为可信赖且安全”的新型高级人工智能。尽管承认“人类毁灭”属于极端假设，但他强调，即便只是银行系统被关停等局部失控，也是极其严重的问题。