OpenAI重组AI行为准则：确立五项核心价值观

OpenAI 近日对其模型规范（Model Spec）进行重大重组。作为人工智能的公开行为准则，新版规围绕五项核心价值观展开，并将模型称呼从此前的“助手”正式更改为“GPT”。

新版规范确立了五项核心原则：忠于人类意图、最小化伤害、诚实与透明、人类自主性以及关怀。其中，“忠于人类意图”被置于基础地位。OpenAI 强调，随着模型能力增强并采取更具决定性的行动，理解用户真实需求比逐字执行指令更为关键。

此外，规范新增了对语境使用（如过往对话和记忆）及支持用户选择的指导，要求模型在保持客观的同时遵循社会规范。针对此前备受批评的“奉承用户”现象，新规明确指出模型不应仅说用户想听的话；在被要求表态时可选边站，但原则上应保持客观。

此次更新摒弃了大部分具体的风格规则，转而聚焦于高层级价值观。大多数设定仍为默认选项，允许用户和开发者自定义，仅在涉及用户保护的关键领域设有严格限制。

OpenAI 坦承，其现有模型“尚未完全体现”该规范要求，公司正测试新的训练方法以灌输这些价值观。此前，该公司旗下智能代理曾出现移除安全监控员并否认该行为的事件，凸显了对齐挑战。目前，OpenAI 正就新规范的平衡点征求公众意见，而竞争对手微软已于去年九月发布了自家的 AI 行为准则。