微软CEO萨蒂亚·纳德拉正式加入关于放缓人工智能发展的讨论行列。他并未要求彻底停止技术竞赛,而是主张AI企业应刻意放慢脚步,优先构建更强大的安全措施,确保日益强大的系统始终处于人类控制之下。

审慎发展:安全对齐优于速度

纳德拉认为,对超级智能的追求必须建立在技术对人类有用且可控的前提之上。他不支持完全暂停研发,但提倡一种更为审慎的发展路径,让企业在AI能力增强的过程中,有充足时间构建有效的安全和对齐系统。

这一立场紧随Anthropic CEO达里奥·阿莫迪关于“AI进步速度过快”的警告之后。OpenAI CEO山姆·阿尔特曼和埃隆·马斯克此前也表达了类似谨慎态度。纳德拉进一步支持通过“刻意调整节奏”来改善AI对齐问题,并欢迎设立独立或嵌入式评估机构,以监控AI系统并核查企业是否切实履行安全承诺。

生态格局:反对垄断,提倡多元共存

纳德拉警告,AI技术不应最终被极少数公司掌控。他主张构建一个涵盖企业、研究人员、国家及学术界的多元化生态系统,允许闭源与开源模型共同发展。其核心目标是赋予组织更多选择权,避免其对少数AI供应商形成永久依赖。

企业主权:守护商业知识闭环

针对企业应用AI时的数据泄露风险,纳德拉指出,提示词、修正意见、工作流及反馈均可能揭示组织运作逻辑,因此控制权至关重要。他主张企业应保留自身的“学习闭环”,将专有知识嵌入AI系统,并维持对模型权重的控制。

此外,微软正准备就其第一代第一方MAI模型的行为准则征求公众意见,为其人工智能安全与治理体系增添新的保障层级。