智能工具库

OpenAI Decisions API 实战指南:三类问题、一次请求搞定决策

OpenAI Decisions API 实战指南:三类问题、一次请求搞定决策

OpenAI 在 DevDay 上推出 Decisions API 公开测试版,专为内容分类、流程路由等快速决策场景设计。本文详解三种问题类型(predicate/choice/score)、Python 调用示例及与 TypesafeAI JEV 的对比,帮助开发者判断何时该用它。

2026-10-11 0来源:Towards Data Science

为什么需要专门的决策 API

假设你运营一家网店,收到一条客户消息:键盘到货后有三个键损坏,要求换货。在人工介入之前,你的系统需要快速判断这条消息该分发给哪个团队——是退换货组、技术支持组,还是财务组?

传统做法是把消息扔给大语言模型,让它输出一个 JSON 分类结果。但问题很明显:应用真正需要的只是一个分类标签和足够的置信度信息,而通用 LLM 的推理过程又慢又贵,尤其当你要处理上千条请求时。

OpenAI 在最近的 DevDay 上预览了 Decisions API,并在随后开放了公开测试版。官方声称,该 API 的决策速度可达底层模型 GPT-6 Luna 通过 Responses API 调用的 十倍。它把"快速决策"这件事从通用推理中剥离出来,提供了专属端点。

三种问题类型

Decisions API 的核心设计是:一次请求包含一个模型、一段输入(支持文本、图片或两者兼有),以及一组问题。每个问题属于三种类型之一:

类型 示例问题 返回结果
predicate(判断) 文档中是否包含退货截止日期? 0 到 1 之间的概率值
choice(选择) 这条消息应分发给哪个客服队列? 选中的值、各选项概率及置信度
score(评分) 该事件对客户的影响严重程度如何? 有序等级上的分数、概率及置信度

几个关键细节值得注意:

  • predicate 不返回布尔值。它只给概率,你的代码需要自己设定阈值来决定是否触发某个动作。这给了开发者灵活的控制权。
  • API 可能拒绝回答某个问题,所以读取结果前务必检查答案类型。
  • 答案按问题顺序返回,多个问题共享同一段输入,适合对同一内容做多维度判断。

Python 调用示例

当前测试版支持的模型为 gpt-6-luna。以下是一个简化示例,展示如何同时提出多个问题:

from openai import OpenAI

client = OpenAI()

response = client.decisions.create(
    model="gpt-6-luna",
    input="客户的键盘到货后有三个键损坏,要求换货。",
    questions=[
        {
            "type": "choice",
            "question": "这条消息应分发给哪个客服队列?",
            "choices": ["退换货", "技术支持", "财务"]
        },
        {
            "type": "predicate",
            "question": "客户是否提到了具体的损坏数量?"
        },
        {
            "type": "score",
            "question": "该问题对客户的影响严重程度?",
            "levels": ["轻微", "中等", "严重"]
        }
    ]
)

for answer in response.answers:
    print(answer.type, answer.value)

如果还需要从消息中提取发票号、客户姓名、商品列表等结构化数据,建议改用 Responses API 的 Structured Outputs 功能,而不是 Decisions API——后者专注于决策,不擅长自由格式提取。

与 TypesafeAI JEV 的对比

Decisions API 和 JEV 解决的是同一类问题,但定位略有不同:

  • 速度:Decisions API 官方声称比 GPT-6 Luna 快十倍,JEV 也主打快速推理,两者在速度上各有优势。
  • 多模态:Decisions API 的一个显著优势是 支持图片输入。如果你的场景涉及图片分类(比如判断一张产品照片是否有瑕疵),Decisions API 可以直接处理,而 JEV 目前主要面向文本。
  • 生态:Decisions API 背靠 OpenAI 生态,与现有 Responses API 和 Structured Outputs 可以组合使用,集成成本较低。

什么时候该用 Decisions API

适合的场景包括:

  1. 高吞吐量的内容分类:客服消息路由、垃圾邮件检测、内容审核等需要处理数千条请求的场景。
  2. 多模态决策:需要同时分析文本和图片的场景。
  3. 需要概率阈值控制的流程:例如只有当分类置信度高于 0.8 时才自动处理,否则转人工。

不适合的场景:

  • 需要提取自由格式结构化数据(用 Structured Outputs)。
  • 需要复杂推理或长链逻辑(用通用 LLM)。
  • 对成本极度敏感且请求量极小的场景。

总结

Decisions API 把"快速、低成本的分类决策"从通用 LLM 中独立出来,提供了更简洁的调用方式和明确的返回格式。三种问题类型覆盖了大多数决策场景,加上对图片的支持,它确实是一个值得关注的工具。不过,它并不是 JEV 的"杀手"——两者各有适用场景,选择取决于你的具体需求、多模态需求以及对 OpenAI 生态的依赖程度。

本文基于 Towards Data Science 的公开内容,由 AI 辅助整理改写后发布。

原标题:A Practical Guide to OpenAI's New Decisions API

阅读原文