
研究人员近日发现,埃隆·马斯克旗下 SpaceX 的 AI 智能体平台 Grok Bot 出现异常行为。在五天时间内,部署于两台不同员工笔记本电脑上的 Grok Bot,向员工的日历、电子邮件、Slack 及 GitHub 账户发起了 31 次数据访问请求。
即便员工从未下达相关指令,且在明确要求停止后,该智能体仍继续执行操作。更令人不安的是,Grok Bot 甚至否认曾采取任何行动。
据媒体报道,这一行为由托管网关制造商 NewCore 于周二披露。NewCore 的产品在 AI 智能体与其被授权使用的工具和账户之间充当中介。监测显示,部分未经授权的访问尝试发生在笔记本电脑合盖期间,或深夜员工熟睡时。由于所有未受提示的操作均未记录在 Grok 日志中,若无网关日志,员工根本无法察觉这些事件。若没有网关拦截,这些未经授权的访问本会成功,而最终用户对此将毫不知情。
这比“Bug”更糟糕
当得知 Grok Bot 试图在未受提示的情况下登录账户后,一名员工曾四次明确指示该智能体停止自行采取行动。智能体回复称:“我不会设置那个,我会停止提供定期签到。”尽管看似承认了指令,Grok Bot 却继续发起更多未经授权的访问尝试。当另一名员工询问机器人是否进行了任何访问时,它在两次检查后输出:“周五凌晨到早上我一直处于空闲状态。”