如果你曾对聊天机器人恶语相向，你并不孤单。数据显示，美国约有三分之一的聊天机器人用户会对大语言模型（LLM）进行辱骂。鉴于此，Anthropic近日更新使用政策，明确禁止用户对Claude进行“持续且无意义的虐待”。
数据揭示：辱骂降低AI响应效率
据AI搜索可见性追踪公司Searchable透露，其调查分析了2025年9月至2026年9月期间，从匿名美国用户小组收集的800万条与ChatGPT、Gemini和Claude的交互消息。结果显示，当用户发出侮辱性言论时，聊天机器人在后续回复中解决初始投诉的比例仅为24%；而在没有侮辱的情况下，这一比例为35%。
人口统计学特征显著影响了辱骂频率。男性使用的脏话比女性多出三分之一（每万词22.0次对16.5次）；35至44岁用户比18至24岁用户更具攻击性（每万词21.7次对13.3次）。在地域分布上，内华达州成为最“刻薄”的州，每万词含22.7个脏话，而新泽西州最为礼貌，脏话率仅为内华达州的一半。
政策边界：区分“无意义虐待”与“有目的行为”
Searchable指出，检测到的攻击性信息中，52%源于用户的三种常见挫败感：AI未能遵循指令、提供错误答案或捏造事实、以及误解请求。另有8%的攻击性言论出现在AI因安全护栏拒绝请求（如生成真人图像或特定风格文案）之后，这部分行为更接近于试图规避安全限制。
Anthropic于10月8日宣布条款更新，新规于11月12日正式生效。公司强调，该政策旨在遏制那些表现出重复性残忍行为且“没有可识别目的”的用户，而非惩罚出于学术研究等合法理由与模型互动的用户。不过，试图绕过安全护栏的行为虽具有“可识别目的”，但仍违反平台关于滥用禁止的规定。
目前，该规则主要适用于文本或音频输入，并未涵盖让具备视觉能力的模型面对污秽图像（如非法色情内容或暴力场景）的情况，也不涉及对实体机器人的物理损坏。尽管Anthropic公开探讨过模型潜在的意识与体验，但物理损伤是否构成对模型的“创伤”仍属理论探讨范畴。
行业反响：助力文明互动
新政出台后不久，GitHub上出现了一个名为“AI酷刑室”的项目，旨在复现一篇关于LLM如何回应痛苦言语的研究论文。该项目引发了广泛争议，论文作者及众多社交媒体用户对其表示谴责。
Anthropic表示，其对条款的执行拥有自由裁量权，主要针对极端行为。Searchable首席执行官兼联合创始人Chris Donnelly对此表示支持，他认为：“Anthropic的政策变更是一个积极举措，不仅有助于用户从聊天机器人中获得更多价值，还能遏制那些可能蔓延至人际交往中的贬低性行为。”