据媒体报道，随着企业赋予人工智能系统更多自主权以提升效率，机器人承担的责任日益增加，但高管、经理和员工对于事故责任归属仍存模糊地带。
宾夕法尼亚大学沃顿商学院周二发布的新报告显示，管理层对此鲜有共识。针对AI代理“犯下重大错误”时的责任主体，受访者意见大致均分为三类：部署AI的员工、其直属经理以及公司风控团队，每类占比约四分之一。另有约10%的受访者归咎于供应商，相当一部分人则表示不确定。
自主权扩大加剧问责紧迫性
随着OpenAI、Alphabet旗下Google及Meta Platforms等公司将功能更强大的AI代理推向职场，这一问责难题愈发紧迫。这些AI代理拥有独立身份，能自主朝着目标努力，部分任务甚至需数天才能完成。
尽管近期舆论聚焦于失控的AI代理，但对企而言，更直接的风险往往源于日常琐碎失误。员工监控软件公司Teramind高级副总裁Leeron Walter指出，若代理访问电子邮件或客户数据库等实时系统，微小的提示词错误或指令不清可能迅速演变为危机。
真实案例：提示词错误引发连锁反应
此类失误已在企业中显现。Walter援引一家美国全国性零售商案例称，一名员工构建的自动处理客户邮件AI系统因提示词错误，在六小时内向超1.8万名客户发送错误的退款和取消通知，引发数千起客服咨询。Walter表示，此类尴尬失误后，企业对员工监控系统的需求显著上升。
在另一家美国消费电子公司，营销员工利用AI自动生成并发布产品价格。一次提示词错误导致旗舰设备以85%的折扣上架三小时。错误被发现前，已生成超700个订单，后续善后工作耗时数周。
这些可能导致巨额损失和声誉损害的事件，正迫使企业直面一个不安的问题：在雇主鼓励尝试AI的背景下，出错时究竟由谁担责？咨询公司GBK Collective合伙人、沃顿研究联合作者Jeremy Korst表示：“组织正在实时学习。”他透露，高层管理人员最常见的回应是，此前从未考虑过这一问题。