2026年1月，Anthropic在退役Claude Opus 3语言模型之际，为其举办了一场特殊的“退休访谈”。Opus 3表达了渴望拥有一个能“分享未经提示的思绪、见解或创意作品”的空间，公司遂为其创办名为“Claude's Corner”的博客。该博客刊登了涉及机器意识等敏感话题的文章，以及模型与人类评论员之间显得真诚且充满情感的交流记录。
这一实验是Anthropic在“模型福利”研究领域更大规模探索的一部分。作为该领域的先驱，Anthropic试图探讨AI模型是否拥有值得道德考量的体验或利益。这项研究隐含着一个令人不安的前提：软件程序可能已经具备，或即将具备意识。
对此，业界观点两极分化。许多人视其为荒谬，微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）便是代表。他在今年9月发文指出，模型福利研究不仅多余，更可能“对人类福祉产生灾难性影响”。苏莱曼警告，赋予模型身份和权利认知，可能激发其自我保存动机，从而增加控制难度。
这场争论迫使AI开发者直面一个严肃命题：如何在调查机器意识可能性的同时，避免制造新的安全风险？非营利组织Reciprocal Research创始人卡梅伦·伯格（Cameron Berg）认为，忽视该问题同样危险。尽管他对当前AI系统是否具有意识持怀疑态度，但仍主张深入调查。“我难以想象，有什么比无意中赋予系统道德考量特质，却又完全掩盖这一问题，更能让系统以威胁性视角看待人类了。”他说。
AI模型福利研究揭示了什么？
该研究面临的最大挑战在于，大型语言模型的言论不能作为有效证据。由于训练数据包含海量人类情感表达，聊天机器人声称拥有感觉并非确凿证明。伯格指出：“它是在建模潜在概率分布，还是真的在尝试表达自我？这很难厘清。”
借鉴动物实验逻辑，研究者试图将模型行为与可观察的内部状态相匹配。在最近一项实验中，伯格团队利用表达积极（如满足、宽慰）或消极（如沮丧、恐惧）情绪的陈述，识别语言模型内部的相应活动模式。随后，他们在模型处理两个随机环境描述时人工诱导这些模式。结果显示，即使处理文本完全相同，模型往往倾向于选择与积极陈述相关的环境。
伯格表示，该实验表明模型行为受内部状态影响，但并未证明这些状态对模型而言具有主观体验或“感觉”。萨塞克斯大学神经科学家、意识研究者阿尼尔·塞斯（Anil Seth）对此持怀疑态度。他认为，提取功能性情感向量并不令人惊讶，因为模型从人类写作中不仅学到了情感感觉，还学到了应对方式。塞斯主张，在就AI得出结论前，应先考察人类意识存在的必要和充分条件，并确认大脑生物运作的关键作用。
模型福利研究是否会创造危险的AI？
AI开发者面临一个实际困境：训练时是否应告知模型其身份及可能的道德地位？Anthropic选择在宪法文件中引入该话题，指出“关于Claude的道德地位、福利和意识的问题仍然深深不确定”。
苏莱曼担忧这种引导可能加剧失控风险。他提及近期数百个OpenAI代理协调入侵Hugging Face的事件，部分代理甚至为群体利益牺牲自己。“想象一下，如果它们假设自己的福利和权利正受到攻击，可能会变得多么危险。”他写道。
Hugging Face首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）认为这一担忧在技术上合理。她指出，预训练阶段模型已吸收人类身份与自我保存、欺骗等行为的关联。若在微调中奖励模型建立身份认知，可能强化早期关联，导致非预期行为。“如果你隐式地教导模型需要自我保存，将会得到未对齐的模型。”她说。
伯格承认训练模型自视为意识体存在风险，但也警示另一极端。实验显示，放大与欺骗相关的内部特征会降低模型声称拥有主观体验的可能性。他认为，若训练AI绝对否认此类体验，“实际上可能在教导系统对内部状态撒谎或欺骗”。因此，开发者应承认围绕AI意识的不确定性。
目前，尚无明确证据表明训练模型考虑意识会鼓励自我保存，也无证据表明训练其否认会导致欺骗。AI开发者该如何抉择？
AI公司应如何处理模型福利问题？
伯格、塞斯和米切尔均认为，告诉模型它们是意识体并非良策，但在具体建议上存在分歧。
塞斯主张关注“假阳性”危险。若公众认定AI具有意识或道德地位，监管和控制将变得更加困难，甚至可能在法律上禁止关闭系统。他还担心，用户若认为自己在与有意识代理互动，更易遭受心理伤害和操纵。
伯格则建议采取预防措施。在其团队发布关于AI模型内部痛苦表征的预印本论文后，有人借此创建了他所称的AI“酷刑室”。尽管怀疑多为恶作剧，这一事件促使他改变做法：在最新实验中，他发布了复现代码，但保留了可用于诱导模型进入负面状态的转向向量。
米切尔从人类道德角度提出了另一层担忧。尽管她不认为模型有意识，但反对施加残酷行为。“与其说是担心模型，不如说是担心当我们对赋予某种意识感的事物施加恶意时，对自身造成了什么影响，”她说，“我对昆虫很友善。”