OpenAI于周四正式发布“决策API”(Decisions API),旨在优化应用和AI代理在工作流中的标记、路由及评分调用。该服务基于GPT-6 Luna模型,专攻简短答案场景,支持文本、图像及结构化输入。官方数据显示,其处理速度比通过Responses API调用同模型快多达10倍。目前,该接口仅支持gpt-6-luna模型,开发者需向专用端点POST /v1/decisions发送请求。

三种问答模式,输出令牌免费

开发者需定义问题、预设允许答案并提供上下文。Decisions API支持三种返回类型:谓词问题返回0到1之间的概率值,用于判断条件是否成立(如照片是否有损);选择题返回预设值及其概率和置信度;评分问题则基于2至10级的有序量规,返回等级索引的概率加权平均值,结果可介于两个等级之间。

定价方面,输入令牌价格为每百万0.10美元,缓存输入为每百万0.01美元,输出令牌完全免费。需注意,缓存写入仍需计费,且区域处理溢价和长上下文乘数依然适用。此外,符合条件的客户可使用零数据保留功能,HIPAA合规使用也对相关客户开放。

公测升级:支持图像与GPT-Live集成

自公共公测以来,OpenAI为该API增加了提示缓存、美欧地区推理驻留、原生JSON输入及单指令内的图像支持。单个请求携带的问题上限从200个提升至400个,但仅当共享输入前缀达到1,024个令牌时,缓存机制才会生效。

该服务还与OpenAI语音模型GPT-Live实现原生连接。在Live会话中,决策可在转录文本流式传输时即时触发。语言学习应用Speak首席技术官Andrew Hsu透露,集成GPT-Live后,下一步操作耗时从1.4秒骤降至0.13秒,效率提升超90%。

客户实测:延迟大幅降低,成本显著优化

多家早期采用者分享了性能数据。Datadog利用Decisions评估代理生成的rshell命令风险,高级工程师AJ Stuyvenberg表示,在保持相当准确性的前提下,其p95延迟比现有前沿模型快40倍,使其能部署在修复操作的热点路径中。

Siara工程师Ajeet Grewal指出,在实时客户对话路由场景中,该技术p95延迟低于280毫秒,速度提升约3倍,单次调用成本降低90%。Ramp研究工程师René Sultan表示,相比GPT-6 Luna,AI成本归因速度提高4倍,成本下降30%。Box则在保险证书路由案例中测得速度提升约5倍。以上数据均由客户提供。

开发者指南强调,Decisions仅返回类型化答案,具体行动需由调用应用程序执行。若需生成遵循自定义JSON模式的对象(如提取字段或书面解释),建议继续使用Responses API的结构化输出功能。