当个人AI助手突然吐出涉及他人的隐私细节，这究竟是严重的数据泄露，还是大模型常见的“幻觉”？
近日，AI助手Instinct陷入此类争议。有用户在社交平台晒出截图显示，该助手不仅报出了某人的中间名，还讨论了一张从未上传过的、涉及金钱往来的文件照片。面对质疑，Instinct创始人Noah Shinn坚决否认存在数据泄露，直指这是一次典型的“幻觉”事件。
是泄露还是幻觉？
事件起因于用户@prit4k在X平台发布的互动截图。截图中，Instinct的智能体似乎承认将与其他用户的对话泄露到了当前窗口。Shinn随后回应称，智能体编造了一个专有名词，并在推理过程中进一步放大了这一错误，导致看似真实的隐私信息输出。
“这不是数据泄露，没有共享任何用户数据，也没有违反用户隔离边界。”Shinn在周三晚间的帖子中明确表态。尽管他未详细说明如何判定该案例纯属幻觉，但他强调了Instinct在隐私保护上的技术架构，包括隔离沙箱、短效本地凭证以及身份签名的工具执行机制，以确保用户数据严格分区。
针对此次故障，Instinct已向涉事用户道歉，并将其定义为“严重故障”。Shinn透露，团队在过去48小时内紧急开发了一套“主动幻觉检测系统”，能在错误或工具调用执行前进行拦截或引导。他表示，将在未来几周公布更多关于该系统的细节。
硅谷新宠的背景与竞争
Instinct是一款仅限邀请使用的AI助手，旨在帮助用户处理致电保险公司、预订电影票等日常任务。今年夏天，这款应用在硅谷引发轰动，助力Shinn的初创公司Spear Street以25亿美元估值完成2.5亿美元融资。媒体评测指出，其在直观辅助日常任务方面表现印象深刻。
随着AI智能体成为科技界新宠，市场竞争日益激烈。Meta已于9月8日发布自有智能体Muse，目前该应用已登顶苹果和安卓设备的下载量榜首。