企业在部署AI智能体时,往往倾向于选用最新、功能最强的模型处理所有任务。然而,宾夕法尼亚大学沃顿商学院与埃森哲(Accenture)联合发布的最新报告指出,这种做法可能过度了。

这份名为《代理式AI的真实成本究竟如何?》的报告研究了923个职业中的18,000多项任务。结果显示,在AI智能体可接管的任务中,超过90%属于常规任务,完全可由成本较低的低阶模型完成。在被研究的19个行业中,仅有6%至11%的工作复杂度需要前沿(frontier)级别的顶尖模型。这意味着,必须使用前沿模型的复杂任务在工作流中占比极小。

沃顿商学院AI与分析学院副院长、报告合著者埃里克·布拉德洛(Eric Bradlow)指出,大多数公司并未做好这种区分,而是将最复杂的模型应用于整个工作流程。他认为,由于大量任务根本不需要如此高的复杂度,这种做法难以带来最佳投资回报。

拒绝追逐“闪亮物体”

布拉德洛称,人们往往被宣传为“最好”的最新模型吸引,倾向于拥有他所谓的“最闪亮的物体”,但实际上大多数任务并不需要它。

研究人员从五个维度对任务复杂性进行评分,包括相互依赖步骤数量、法律监管要求、受影响系统数量、敏感数据需求及数据量大小,最终确定了11,339项由AI智能体承担的任务。埃森哲美洲行业与企业负责人、报告合著者詹姆斯·克劳利(James Crowley)表示,复杂性不仅指计算难度,还涉及工作流导航、系统交互及法规限制。例如,生命科学领域的质量控制开发和专利起草属于复杂任务,而人员注册和文案写作则排名较低。

克劳利强调,这并非反对前沿模型,它们在处理复杂、专业和高风险工作中依然关键。报告发现,资本市场、科技和航空航天领域的高容量任务通常更复杂,更适合使用前沿模型。以航空航天为例,跟踪认证、质量及供应商网络中的零部件可用性是一项“极其复杂、价值极高”的任务。布拉德洛则以医疗保健研发为例,指出AI检测分子组合虽复杂昂贵,但可能带来数十亿美元的收入回报。

AI并非免费午餐

模型选择至关重要,因为算力是主要成本之一,也是造成行业间成本差异的主要原因。对于一家拥有10万名员工并运行35个智能体的公司,预计五年成本在医疗保健行业的约1.55亿美元到保险行业的约5.2亿美元之间。

布拉德洛表示,尽管单次任务成本随模型降价而降低,但由于应用场景扩展,总支出仍在上升。“我现在让它做100件一年前没做的事,所以总成本在增加。”他和克劳利强调,企业应追踪AI成本与其产生的价值,建立“AI损益表”(AI P&L),以消除“LLM使用免费”的误解。

报告建议,应在设计阶段就确定每个智能体所需的模型能力,而非构建完成后才考虑。虽然动态模型路由(运行时将任务分配给不同模型)在技术上可行,但因难以追踪,鲜有企业能大规模实施。克劳利指出,挑战在于模型选择往往发生得太晚,人们倾向于使用已有权限的模型而非最适合的模型。

布拉德洛预计,随着客户对投资回报率要求的提高,未来的AI系统将能自动分解请求并将各部分发送给正确的模型。他表示,这一转变将比预期更早到来,因为使用非复杂模型降低成本是实现更高ROI的关键路径之一。这是沃顿商学院与埃森哲联合发布系列报告的第三篇。