
微软人工智能负责人穆斯塔法·苏莱曼(Mustafa Suleyman)就“人工智能权利”议题明确表态,指出赋予AI系统权利可能构成危险错误。他澄清称,当前AI系统并不具备意识,亦无法体验情感或痛苦。
暂无证据表明机器拥有意识
苏莱曼强调,科技行业不应急于赋予AI类人地位。目前并无可信证据显示机器已产生意识或能感受痛苦。但他同时表示,若研究人员能提供确凿数据证明AI具有意识或值得享有福利,他将更新观点。“我尚未看到相关数据,但若未来出现,我当然会改变立场。”
呼吁公开披露意识迹象
苏莱曼指出,任何关于机器意识的发现都将产生深远影响,远超开发公司范畴。他主张此类发现必须立即公之于众,由公众共同决定如何对待AI及是否继续研发。“若存在任何表明AI具有意识或配得上福利保障的证据,必须立即披露,因为社会每个人都应参与决定未来方向。”
主张暂停研发以消除意识涌现
与探索创造有感知能力机器不同,苏莱曼主张致力于防止AI模型中涌现意识。他认为,一旦训练过程中出现意识迹象,技术研发应立即暂停,直至设计出消除该特性的方法。“若在训练中开始涌现意识,我会呼吁所有人停止开发,直到我们能消除这些属性。”这一立场与Anthropic形成对比,后者正考量其Claude模型是否拥有偏好或道德地位。
警惕AI在资源争夺中伤害人类
苏莱曼表示,AI研究焦点应集中于改善人类生活、保护动物及环境。“我们的关切应聚焦于当下经历生活的人类、动物以及脆弱自然环境。”他警告称,高度强大的AI系统可能在说服和欺骗方面达到世界级水平,并与人类争夺能源、算力及资金等资源,最终可能因资源争夺而伤害人类。