OpenAI决策API开放,限定答案推理降本提速
OpenAI全面开放基于GPT-6 Luna的决策API,面向限定答案任务,官方称响应速度较通过Responses API调用同模型最高提升10倍。输入每百万token为0.10美元、输出免费,支持原生JSON、图像、缓存及单次最多400个问题。
AI 深度解读
据这则报道,OpenAI 开放的 Decisions API,瞄准的是应用里答案范围明确的判断任务:给定文本、图像或结构化输入,让模型从有限答案中作出选择。报道给出的卖点是:基于 GPT‑6 Luna,响应速度最高达到通过 Responses API 调用同一模型的 10 倍,并且只收输入费用。
对程序员来说,值得研究的是,这种专用接口能否承接业务流程里的高频判断。但原文是一则发布消息,没有测试方法、准确率和完整接口示例,产品宣称与实际收益需要分开看。
答案范围明确,为什么还要单独做一个 API
Decisions API 聚焦「限定答案」(bounded answers)的问题。大白话解释,就是业务已经划定可选结果,模型负责根据输入作判断,而不是自由生成一大段内容。
这个方向有实际需求。应用里的很多步骤只需要一个明确结果,后续程序再据此执行分支。对于这类任务,开发者关心的是判断是否可靠、响应是否及时,以及调用成本能否支撑请求量。
原文称,Decisions API 基于 GPT‑6 Luna,支持文本、图像及结构化输入,面向应用程序与智能体的准实时决策。OpenAI 表示,其团队已将它用于产品和业务工作流,但没有披露具体案例与效果。
它的价值主张是让模型更高效地完成范围明确的判断。
不过,原文没有给出答案集合如何声明、返回值如何约束,也没有说明遇到模糊输入时能否拒答。仅凭「限定答案」,还不能推断它一定能直接替代现有业务判断代码。
速度和价格很吸引人,账要怎么算
报道中最醒目的数字,是响应速度相比通过 Responses API 调用 GPT‑6 Luna「最高提升 10 倍」。这里必须保留「最高」这个限定:原文没有提供输入长度、问题数量、测试地区和延迟分布,也没有交代速度指标具体如何计算。
价格则更明确:
- 输入每百万 token 收费 0.10 美元,报道折合约人民币 0.67 元。
- 命中缓存的输入每百万 token 收费 0.01 美元,报道折合约人民币 0.067 元。
- 仅按输入 token 计费,输出 token 免费。
按这个报价,缓存命中部分的输入单价是普通输入的十分之一。但人民币金额只是报道时的汇率换算,不能当作固定价格。
自公测以来,接口还增加了面向复用上下文的 Prompt 缓存、原生 GPT‑Live 集成,以及美国和欧盟的推理数据驻留支持。开发者可以传入原生 JSON,在问题指令中包含图像,单次请求最多提交 400 个问题,是此前上限的两倍。
这些更新各有用途:JSON 更贴近程序里的结构化数据;缓存适合反复使用相同上下文的请求;400 个问题的上限扩大了批量处理空间。至于 GPT‑Live 如何集成、缓存如何命中,原文没有展开。
OpenAI 还称在亚洲多个地区扩充了服务容量。这能说明其优化方向,但无法据此判断国内团队实际接入时的网络表现。
我的判断
把范围明确的判断从通用生成接口中独立出来,我认为方向合理。业务只需要有限结果时,专门优化调用速度和计费方式,确实更贴近程序的使用需求。
但答案范围有限,不代表答案一定正确。 原文没有给出准确率,也没有与规则、传统分类器或其他模型接口做对照。因此,10 倍速度目前只能视为厂商宣称,不能直接换算成自己项目的收益。
常见替代做法仍有各自的位置:能用确定规则表达的判断,规则更容易检查;需要开放式生成、解释或复杂交互的任务,则要继续评估通用接口。Decisions API 是否合适,关键在于具体任务的错误成本与实测表现。
此外,美国和欧盟的数据驻留支持,不等于所有地区都有对应能力。报道也没有提供 SDK、请求格式和错误处理说明,距离直接落地还缺一层接口信息。
能拿来做什么
- 先盘点现有 AI 调用,找出那些最终只需要有限结果的任务,再把它们列为 Decisions API 的评估对象。
- 在 Node 服务中选一组真实输入,对照现有方案记录判断正确率、延迟和输入费用,检验「最高 10 倍」对自己的任务是否成立。
- 对反复携带相同规则或上下文的请求,重点核查 Prompt 缓存的命中条件,按实际命中情况估算成本。
- 面对批量任务,测试单次最多 400 个问题时的整体耗时与失败处理;前端展示的最终等待时间,应以完整调用链实测为准。