150 毫秒极速响应:OpenAI 推出 Decisions API,让 AI 从“聊天”走向“实时决策”
在2026年开发者日活动上,OpenAI于9月30日(IT之家报道)发布了Decisions API。这一全新接口专为实时、低延迟的分类与路由场景打造,能在约150毫秒内给出结果,其速度相比通过常规API调用Luna快了近10倍。
从定位来看,Decisions API面向“快速单次决策”,它将模型(当前基于OpenAI的小型模型Luna)的“智能”聚焦于一组用户预先设定的问题以及有限答案集合,以极低的延迟返回结构化的决策结果。

在当前同类模型中,主要竞争产品是TypeSafe的Jev,但Decisions API专注于将模型智能转化为快速决策。

开发者提供上下文(文本或图片),并预先定义好“问题与可选答案”,API会返回选中的答案及置信度等结构化信息,供后续业务逻辑使用。
在典型应用场景方面,Decisions API较为适合以下情况:
客服与工单系统:依据用户描述自动判断问题类别、优先级及应分配的团队。
内容审核与策略选择:在几个预设策略(例如:允许、限流、人工复审)中快速做出选择。
Agent编排中的“决策节点”:在多步骤工作流中,借助Decisions API决定下一步调用哪个工具或哪个子agent,而非由大模型自由发挥。
实时业务规则辅助:在现有规则引擎基础上,利用Decisions API处理模糊地带,在有限选项内给出建议决策,再由规则引擎做最终裁定。