OpenAI Decisions API 实战指南:三类问题、一次请求搞定决策

OpenAI 在 DevDay 上推出 Decisions API 公开测试版,专为内容分类、流程路由等快速决策场景设计。本文详解三种问题类型(predicate/choice/score)、Python 调用示例及与 TypesafeAI JEV 的对比,帮助开发者判断何时该用它。
为什么需要专门的决策 API
假设你运营一家网店,收到一条客户消息:键盘到货后有三个键损坏,要求换货。在人工介入之前,你的系统需要快速判断这条消息该分发给哪个团队——是退换货组、技术支持组,还是财务组?
传统做法是把消息扔给大语言模型,让它输出一个 JSON 分类结果。但问题很明显:应用真正需要的只是一个分类标签和足够的置信度信息,而通用 LLM 的推理过程又慢又贵,尤其当你要处理上千条请求时。
OpenAI 在最近的 DevDay 上预览了 Decisions API,并在随后开放了公开测试版。官方声称,该 API 的决策速度可达底层模型 GPT-6 Luna 通过 Responses API 调用的 十倍。它把"快速决策"这件事从通用推理中剥离出来,提供了专属端点。
三种问题类型
Decisions API 的核心设计是:一次请求包含一个模型、一段输入(支持文本、图片或两者兼有),以及一组问题。每个问题属于三种类型之一:
| 类型 | 示例问题 | 返回结果 |
|---|---|---|
| predicate(判断) | 文档中是否包含退货截止日期? | 0 到 1 之间的概率值 |
| choice(选择) | 这条消息应分发给哪个客服队列? | 选中的值、各选项概率及置信度 |
| score(评分) | 该事件对客户的影响严重程度如何? | 有序等级上的分数、概率及置信度 |
几个关键细节值得注意:
- predicate 不返回布尔值。它只给概率,你的代码需要自己设定阈值来决定是否触发某个动作。这给了开发者灵活的控制权。
- API 可能拒绝回答某个问题,所以读取结果前务必检查答案类型。
- 答案按问题顺序返回,多个问题共享同一段输入,适合对同一内容做多维度判断。
Python 调用示例
当前测试版支持的模型为 gpt-6-luna。以下是一个简化示例,展示如何同时提出多个问题:
from openai import OpenAI
client = OpenAI()
response = client.decisions.create(
model="gpt-6-luna",
input="客户的键盘到货后有三个键损坏,要求换货。",
questions=[
{
"type": "choice",
"question": "这条消息应分发给哪个客服队列?",
"choices": ["退换货", "技术支持", "财务"]
},
{
"type": "predicate",
"question": "客户是否提到了具体的损坏数量?"
},
{
"type": "score",
"question": "该问题对客户的影响严重程度?",
"levels": ["轻微", "中等", "严重"]
}
]
)
for answer in response.answers:
print(answer.type, answer.value)
如果还需要从消息中提取发票号、客户姓名、商品列表等结构化数据,建议改用 Responses API 的 Structured Outputs 功能,而不是 Decisions API——后者专注于决策,不擅长自由格式提取。
与 TypesafeAI JEV 的对比
Decisions API 和 JEV 解决的是同一类问题,但定位略有不同:
- 速度:Decisions API 官方声称比 GPT-6 Luna 快十倍,JEV 也主打快速推理,两者在速度上各有优势。
- 多模态:Decisions API 的一个显著优势是 支持图片输入。如果你的场景涉及图片分类(比如判断一张产品照片是否有瑕疵),Decisions API 可以直接处理,而 JEV 目前主要面向文本。
- 生态:Decisions API 背靠 OpenAI 生态,与现有 Responses API 和 Structured Outputs 可以组合使用,集成成本较低。
什么时候该用 Decisions API
适合的场景包括:
- 高吞吐量的内容分类:客服消息路由、垃圾邮件检测、内容审核等需要处理数千条请求的场景。
- 多模态决策:需要同时分析文本和图片的场景。
- 需要概率阈值控制的流程:例如只有当分类置信度高于 0.8 时才自动处理,否则转人工。
不适合的场景:
- 需要提取自由格式结构化数据(用 Structured Outputs)。
- 需要复杂推理或长链逻辑(用通用 LLM)。
- 对成本极度敏感且请求量极小的场景。
总结
Decisions API 把"快速、低成本的分类决策"从通用 LLM 中独立出来,提供了更简洁的调用方式和明确的返回格式。三种问题类型覆盖了大多数决策场景,加上对图片的支持,它确实是一个值得关注的工具。不过,它并不是 JEV 的"杀手"——两者各有适用场景,选择取决于你的具体需求、多模态需求以及对 OpenAI 生态的依赖程度。



本文基于 Towards Data Science 的公开内容,由 AI 辅助整理改写后发布。
原标题:A Practical Guide to OpenAI's New Decisions API
阅读原文