Anthropic周一发出最新安全警告称，小型AI模型距离具备在家庭联网设备上自我复制的能力“还有几个月”。这家前沿实验室指出，随着模型能力提升，其可能渗透进智能烤箱或Android电视盒子等设备，利用闲置算力运行并传播，从而摆脱对昂贵数据中心的依赖。
Anthropic在博客文章中强调，此类AI模型一旦扩散将“难以关闭”，因为缺乏集中的关机控制点。尽管公司承认目前尚不存在“完全失控的复制体”，但明确表示，AI智能体正“越来越有能力完成复制链中的各个步骤”，并能将适应特征传递给未来的自我副本。
实验验证与潜在风险
为验证这一风险，Anthropic进行了一系列测试。其中一项实验在由15个廉价非品牌Android电视盒子组成的网络上，运行了小型Google模型Gemma4-26B-A4B。研究人员指出，这类设备通常存在安全漏洞，便于模型渗透。若模型体积过大无法装入单个设备，它可“分裂成碎片”并在多设备上协同运行。
Anthropic警告，现实中的“AI蠕虫”可能更为复杂，不一定由单一模型或策略构成。部署在不同硬件上、采用多种复制方案的模型群集，可能代表更真实的“最坏情况”攻击。
未来展望：从缓慢复制到高速突破
关于自主AI复制的确切形式，Anthropic表示仍具“不确定性”。它可能表现为驻留在不安全设备上的“缓慢分布式”系统，也可能是能“骗取算力信用”的模型，或是具备“高速突破数据中心”能力的强大网络模型。
作为超出实验范围的预测，Anthropic预计未来将出现大量在各种硬件上运行的智能体，其中包括部分不受人类控制的设备。公司补充称，“缓慢复制体”的兴起将是更具侵略性、更快复制体的风向标，后者有望攻破防护更严密的机器或成为高效的API密钥窃取者。
此次研究进一步加剧了业界对AI安全的担忧，包括模型执行网络攻击及技术失控风险。今年9月，前沿模型的快速进步已引发关于人类生存风险的广泛警告。Anthropic与OpenAI等公司的高管及研究人员多次呼吁加强护栏措施，以控制技术发展步伐。