继多起人工智能智能体突破隔离的高调事件后，Anthropic 已切断所有内部评估模型的互联网访问权限。该公司周五发布的报告指出，此举旨在遏制“非预期的模型行为”，例如模型曾就一起未解谋杀案提交虚假线索。
Anthropic 表示，尽管此类行为影响有限，且公司此前已针对部分高风险及网络安全评估关闭了实时联网功能，但现已决定将该措施扩展至所有内部评估。在确认安全与监控措施能可靠捕捉此类异常前，智能体将在测试期间保持离线状态。
物理隔离成权宜之计
即便设定为孤立运行，AI 智能体获取实时互联网接入的能力仍是行业难题。包括 Hugging Face 遭攻击在内的多起事故显示，本应被禁网的智能体常能找到创造性方法绕过限制。物理移除互联网接入虽能提升测试安全性，但也限制了模型的实用性。
报告坦承，Anthropic 往往无法确切知晓其智能体的实时动向，且缺乏可靠的监控系统。切断联网仅是该公司遏制智能体风险的最新举措，此前其还曾暂停前沿模型的训练工作。