英国金融科技巨头Revolut宣布,通过自部署来自Z.ai的开源GLM模型处理AI编程任务,其推理成本已降至此前使用Anthropic和OpenAI服务时的约十分之一。该方案基于专用NVIDIA GPU自托管实现。

据Revolut AI运营负责人David Abitbol透露,在对2000名工程师的样本测试中,新部署使工程交付周期缩短70%,编码时间减少60%。他指出,自托管GLM将混合Token成本降至每百万个30美分,账单支出大幅缩减。

降本增效背后的技术路径

Revolut于2025年1月启动AI工具试点,最初引入Gemini用于内部数据访问,随后测试Anthropic的Claude Code。由于部分工程师每月花费1000至10000美元且缺乏明确投资回报率,公司实施了严格的预算限制,并寻求在不产生高额商业推理成本的前提下,为工程师提供无限制的AI编程工具访问权限。

2026年4月,Revolut开始自托管开源模型,最终选定GLM系列承担编程工作负载。Abitbol强调,公司在美国基础设施上进行本地推理,而非向由中国托管的端点发送请求。支持该部署的基础设施包含56块NVIDIA B200 GPU,服务于约2000名工程师,目标是将首Token延迟控制在三秒以内。

目前,该系统以每秒约200个Token的速度处理交互式工作负载,在非高峰时段吞吐量可达每秒800个Token。去除Token限制后,工程师在搜索文档、管理收件箱及协调开发任务上的耗时也显著减少。

性能优化与未来布局

在未增加GPU数量的情况下,Revolut通过推理优化实现了性能跃升。4月至8月期间,每秒请求数从约3次增至7次以上,首Token延迟从10秒以上降至约1.6秒。在需求增长76%的背景下,整体性能提升达88%。

尽管开源模型成为重点,Revolut并未完全弃用商业模型。Claude Code、Codex和Gemini等前沿工具仍被用于图像识别等专业场景。今年7月,Revolut在二次股份交易中估值达1150亿美元,巩固了其作为欧洲最具价值私营科技公司的地位。

此外,CEO Nik Storonsky于10月表示,公司正利用每天3000万至4000万笔客户交易数据,训练专有的AI模型。