AI関連の最新ニュースをピックアップ
米Microsoftは、クラウドAI開発基盤「Microsoft Foundry(Microsoftが提供する統合AI開発・モデル運用プラットフォーム)」において、エージェントワークフローの意思決定に特化した「Azure OpenAI Decisions API」の一般提供(GA)を開始した。自律的にタスクをこなすAIエージェント(目標達成のために自律的に判断・行動するAIプログラム)が処理経路の選択や出力の評価を行う際、長文の文章生成(ジェネレーティブ推論)を行わずに直接判定値を返すことで、レイテンシと運用コストを大幅に削減できる。
従来のAIエージェントでは、次にどのモデルやツールを呼び出すか、ユーザーの要望に緊急性があるか、生成結果が基準を満たしているかといった判断を行う際にも、大規模言語モデルにプロンプトを与えて文章を生成させ、そのテキストをプログラムで構文解析(パース)して判定していた。この手法は処理遅延(レイテンシ)が大きく、トークン消費コストが累積する要因となっていた。
Azure OpenAI Decisions APIは専用のエンドポイント(/openai/v1/decisions)を通じて提供され、テキスト・画像・構造化入力を受け取り、以下の3つの形式で確定値を返す。
対応モデルには「GPT-6 Luna」が指定されており、OpenAI SDKまたはREST API経由で利用できる。認証にはAPIキーまたはMicrosoft Entra IDが使用可能だ。
Decisions APIの導入により、エージェントの制御ループにおける判断処理のコストと構造が大きく変わる。
| 項目 | 従来の生成推論による判断 | Azure OpenAI Decisions API |
|---|---|---|
| 出力内容 | 自然言語テキスト(JSONパース等が必要) | 確率値、選択肢、基準スコア |
| 出力トークン費用 | 1Mトークンあたり通常の生成料金が発生 | N/A(出力課金なし) |
| 入力トークン費用 | モデルごとの通常入力料金 | 1Mトークンあたり0.10ドル |
| キャッシュ入力費用 | 各モデルのキャッシュ単価 | 1Mトークンあたり0.01ドル |
| 主な用途 | コンテンツ生成、複雑な自由記述の推論 | モデルのルーティング、緊急度判定、出力検証 |
価格面では、GPT-6 Luna利用時の入力が100万トークンあたり0.10ドル、キャッシュヒット時は0.01ドル(30分キャッシュ書き込みは0.125ドル)に設定されており、出力を生成しないため出力トークン費用はかからない。
本発表における未確認事項として、現時点で対応モデルが「GPT-6 Luna」のみに限定されている点や、利用可能なAzureリージョンの展開範囲、オンプレミス環境やローカル推論への対応計画については言及されていない。また、極めて複雑な論理的推論や段階的な思考推論(CoT)を要する判断に対して、直接判定の精度がどの程度維持されるかはタスクに応じた事前検証が必要とみられる。
編集部注: AIエージェントが高度化し、1つの業務プロセス内で数百回から数千回もの小さな分岐判断を繰り返すようになる中、推論コストと応答速度は実用化の最大のボトルネックとなっている。Microsoftが生成機能と決定機能をAPIレベルで明確に分離したことは、エージェントのエンタープライズ運用を現実的なコストに収めるための重要な基盤整備と評価できる。