2023年,谷歌推出Gemini Workspace扩展功能时曾明确承诺,来自Gmail、Docs和Drive的个人内容“不会被人类审核人员看到”。如今,这一承诺已被悄然撤销。

据更新后的帮助文档及修订版博客文章显示,谷歌已确认连接的Drive和邮件数据会被路由至人工审核流程,并发出警告:审核人员看到的“可能只是邮件或文件”。官方建议,若应用中包含不希望被审核人员看到的机密信息,请勿将其连接到Gemini Apps。

数据摄入机制

测试表明,这种数据摄入是在后台对话中自主进行的,无需用户显式使用@Drive或@Gmail标签,且数据捕获具有概率性。当用户在消费者版Gemini中与启用连接应用的功能聊天时,对个人话题(如旅行、账单、姓名、预订)的环境提及会自动触发后台Workspace查找。

由于大语言模型的工具调用和上下文注入具有概率性,运行测试查询可能出现以下四种场景之一:

  1. 零检索:模型未触发连接应用工具,未拉取任何个人数据。若Gemini能利用模型权重或历史对话解答查询,常出现此情况。
  2. 元数据/通用摘要:Gemini拉取邮件或文件,并生成高层级摘要(如“您有3封关于航班的邮件”)。
  3. 部分未脱敏提取:Gemini从文件中提取2-4句精确引用,通常包含敏感个人信息(PII)、账户详情或具体数字。
  4. 完整文件摄入:文档或电子邮件的完整、未脱敏文本直接被摄入会话上下文。

需注意,单次测试若仅出现前两种状态,并不能证伪该管道,这仅是非确定性系统的一次抽样。删除对话记录并重试,可能观察到不同结果。

复现与风险

在消费者版Gemini设置中激活连接应用,并将模式设置为“Flash”及开启“高思维”等级后,提及Drive或Gmail中的主题(如行程、账户续期),即便不使用@标签,也可能触发数据检索。通过指令要求模型打印检索工具返回的确切文本和元数据块,可验证上述四种情况。

实测显示,针对同一封互联网服务提供商的账单邮件,Gemini在不同试验中给出了从通用回复、含个人数据的元数据摘要,到直接引用敏感信息区块,甚至转储包含头部信息的完整邮件文本等所有四种结果。

至关重要的是,谷歌的正则表达式和命名实体识别(NER)自动清理器无法充分对叙事数据进行去标识化,账号、确认号、交易日期以及组合识别的个人信息仍可能泄露。谷歌最初以严格隔离于人工审核为卖点推广Workspace集成,如今这种隔离已被移除,完整文件可能在随意对话中以概率方式被摄入,并接受人工承包商审核。