
Salesforce周二宣布,其跨平台代理管理控制平面Agent Fabric正式推出FinOps仪表板和模型钱包(Model Wallet)。这两项功能旨在提供统一的AI支出视图,允许预算负责人在成本超标前设置硬性限制并拦截请求,而非事后查看账单。连同“代理终止开关”(Agent Kill Switch),上述功能均已正式可用。
官方数据显示,Agent Fabric日均处理请求超12亿次。新引入的成本优化策略通过语义缓存、载荷压缩和响应修剪等技术,据称在测试场景中可将令牌使用量最高降低75%。
代理评估与测试功能即将上线
另一项关键功能Agent Evals将在稍后推出。该功能可在部署前生成测试用例,并在生产环境中依据质量阈值对代理、大语言模型(LLM)及MCP服务器进行评分。若结果未达标,可触发包括终止开关在内的预定义响应(视团队政策可能需人工批准)。此外,API Evals能根据API规范构建功能和性能测试,以在破坏性变更进入生产环境前将其捕获。这两项功能将于11月进入测试阶段,计划于2027年1月正式全面推广。
Salesforce指出,目前不足半数拥有代理的组织会评估实时流量中的代理表现,而96%的企业在多平台上运行代理。一家零售商案例显示,其在将订单支持代理迁移至更便宜模型后,通过定时测试发现代理就延迟订单给出错误答案,并在等待审批期间将其隔离,从而避免了潜在风险。
MuleSoft和Agent Fabric高级副总裁兼总经理Andrew Comstock表示:“企业只能以能够保持代理准确性和符合预算的速度来扩展代理规模。”
扩展监控范围与策略管理
目前处于测试阶段的自定义代理扫描器(Custom Agent Scanner),允许客户构建专属扫描程序,以编目内部环境、防火墙后方以及Agent Fabric原生不支持的第三方平台上的代理、模型、MCP服务器和API。同时,适用于联合API网关的开放策略(Open Policies for Federated API Gateways)已正式可用,支持在Azure、Apigee和Kong网关上一次性应用IP白名单或速率限制等策略。
触发式代理终止开关(Triggered-Agent Kill Switch)将停机操作与评估结果挂钩,计划于2027年1月正式全面推广。同期,Agent Evals、API Evals和自定义代理扫描器也预计达到正式全面推广标准。