OpenAI、Decisions APIの一般提供を開始

米OpenAI（米国のAI研究開発企業）は10月22日、推論モデル「GPT-6 Luna（OpenAIの最新軽量・高速推論モデル）」を活用して高速な判定処理を行う「Decisions API」の一般提供（GA）を開始した。アプリケーションや自律型AIエージェントのワークフローにおいて生じるテキストや画像の分類、リクエストの振り分け、次のアクション決定といった軽量な判断処理に特化している。モデルによる自由記述の長文生成を省くことで、従来のResponses API経由のGPT-6 Lunaと比較して最大10倍の高速化と低コスト化を実現する。

分岐判定に特化した3つの回答形式と料金体系

Decisions APIは専用エンドポイント（POST /v1/decisions）を通じて提供され、利用者は質問と許容される回答の選択肢を定義し、コンテキスト（テキスト、画像、またはJSON構造化データ）を渡すことで利用できる。

APIが返す結果は以下の3種類に限定されている：

• predicate（述語判定）​​：条件が真である確率を0から1の範囲で推定（例：商品写真に目に見える損傷があるか）
• choice（選択肢判定）​​：事前定義された選択肢の中から1つを選択し、各選択肢の確率と確信度を返却（例：エージェントが継続・再試行・確認質問のいずれを実行すべきか）
• score（スコアリング）​​：2段階から10段階のルーブリック（評価基準）に基づき、加重平均スコアを算出（例：破損やリスクの深刻度評価）

料金は入力トークン100万件あたり0.10ドルで、プロンプトキャッシュ（過去の入力文脈をキャッシュして推論コストと遅延を低減する機能）適用時は0.01ドルとなる。判定結果のみを出力する設計のため出力トークン課金は発生せず、入力トークンのみが課金対象となる。

パブリックベータからの機能拡充と企業検証実績

パブリックベータからの正式提供にあたり、大幅な機能強化が行われた。1リクエストあたり最大400問までの質問送信（ベータ時の2倍）に対応したほか、画像を含む指示の送信やネイティブJSON入力（input_json）が可能になった。さらに、音声対話基盤「GPT-Live（低遅延なリアルタイム双方向音声対話を実現するAPI基盤）」とのネイティブ連携が追加され、リアルタイムの会話音声ストリームから相槌やアバターの表情変更、エスカレーション要否を極小遅延で判断できるようになった。

導入企業の検証でも顕著な性能向上が報告されている：

• Box​：業務文書の自動分類において、精度を維持したまま経路選択を約5倍高速化
• Datadog​：エージェントが生成したシェルの実行前リスク評価で、p95レイテンシが40倍高速化
• Ramp​：AI利用コストの按分処理をGPT-6 Luna比で4倍高速化し、コストを30%削減
• Sierra​：カスタマーサポートの会話制御において、p95レイテンシ280ミリ秒未満を達成しコストを90%削減
• Speak​：音声対話における次のアクション決定までの時間を1.4秒から0.13秒へと90%以上短縮

インフラ最適化と日本の開発者への実務的メリット

今回の正式提供では、米国および欧州でのデータ保管（Inference residency）への対応に加え、アジア地域の複数リージョンに推論キャパシティが増強された。

これにより、日本の開発者が音声エージェントやカスタマーサポート基盤を構築する際、海外リージョンへの問い合わせに伴う通信遅延を抑え、リアルタイム対話に必要な低遅延環境を確保しやすくなる。また、1,024トークン以上の共通プロンプトをキャッシュするプロンプトキャッシュを活用することで、システムプロンプトや文脈データを頻繁に再利用する多段エージェントの運用コストを従来の10分の1に圧縮できる。

分析・展望

生成AIの実用化が「単一のチャットボット」から「複数エージェントによる協調動作」へと進む中、システム全体のボトルネックはモデルの思考力そのものよりも、各エージェント間の小さな判断に伴う「累積レイテンシ」と「呼び出しコスト」に移りつつある。

OpenAIが自由文生成を行わないDecisions APIを独立したエンドポイントとして投入した背景には、エージェント運用の主戦場が「長文出力」から「高頻度・低遅延な意思決定ループ」へ移行したという構造変化がある。出力トークンを無償化し、キャッシュを前提とした極小レイテンシを提供することで、各社が進めるエージェント基盤のワークフロー制御を自社APIエコシステム内に強固に囲い込む狙いがあるとみられる。

引用元：OpenAI | X (@OpenAIDevs) | Unite.AI | ビジネス+IT