
Crusoe与Thinking Machines Lab宣布达成一项价值6500万美元的年度协议。根据协议,Crusoe将在其Cloud平台上为Thinking Machines Lab的开源模型提供推理服务。
Thinking Machines Lab由前OpenAI首席技术官Mira Murati创立。该实验室将利用Crusoe Managed Inference处理生产工作负载,涵盖其Inkling模型、GLM 5.2和5.3版本,以及自行微调的变体模型。
专属Nvidia集群支持
相关工作负载将运行在专用的Nvidia HGX B200系统上,并通过Nvidia Quantum-2 InfiniBand网络连接。Crusoe将以“定制部署”(Tailored Deployment)方式直接运行和支持该集群,提供经过基准测试且具备服务等级协议(SLA)的专用端点,使Thinking Machines Lab无需自行管理推理栈。
“Crusoe Managed Inference帮助我们迅速从评估阶段进入生产环境,并达到了我们对自己系统的高标准要求,使我们能够以相应的规模和经济效益重新投入核心研究。”Thinking Machines Lab机器学习基础设施负责人Myle Ott表示。
此外,双方还在探讨用于大规模合成数据生成的批处理推理方案。Crusoe Cloud产品管理高级副总裁Erwan Menard指出,随着Thinking Machines Lab的成长,其对合作伙伴提出了极高要求,而该实验室拥有非常专业的工程团队。
推理业务ARR突破1亿美元
Crusoe表示,此项交易使其Managed Inference服务的签约年经常性收入(ARR)突破1亿美元大关,而该服务上线尚不足一年。
此次合作签署之际,两家公司近期资本动作频繁。Crusoe上周以309亿美元的估值完成39亿美元融资,并于今年9月初与Jane Street签署了为期五年、价值130亿美元的协议。据报道,Thinking Machines Lab目前正洽谈60亿美元的融资。另悉,GLM开源模型由中国Z.ai开发,该公司最近将其ZCode工具开源。