vLLM-SR、決定基盤モデル「Decision 3.0」公開

公開日：2026年10月12日(月)

Hugging Face

Qwen

マルチモーダル

オープンソース

ベンチマーク

結論先出しのリード

高速推論エンジンvLLMの意思決定レイヤーを開発するvLLM Semantic Router（vLLM-SR）チームは、オープンソースのマルチモーダル決定基盤モデルファミリー「Decision 3.0（テキストや映像から選択肢の確率分布を直接出力する決定モデル）」を公開しました。0.59Bから26.09Bパラメータまでの全6モデルがApache-2.0（商用利用や改変が自由なオープンソースライセンス）でHugging Face上に提供され、従来のテキスト判定に加え、画像や動画を直接入力して選択・判定・スコアリングを行う機能を備えています。

Decision 3.0 Collection on Hugging Face — 引用元：OrcaRouter

確認済みの事実とモデルファミリー構成

OrcaRouterの技術解説およびHugging Face上のモデルカードによると、Decision 3.0はAlibabaのQwen3.5（Alibabaが開発したオープン重み言語モデルファミリー）およびQwen3.8をバックボーンに採用しています。テキスト生成ループを行わず、フォワードパス1回で質問ごとの選択肢確率を出力する「System One」アーキテクチャを採用しています。

公開された6モデルの構成は以下の通りです。

d3（26.09B）: Qwen3.8-27Bベース。0.46Bのビジョンエンコーダを内蔵
d3-flash（8.39B）: Qwen3.5-9Bベース。0.46Bビジョンエンコーダ内蔵
d3-mini（4.54B）: Qwen3.5-4Bベース。0.33Bビジョンエンコーダ内蔵
d3-nano（2.21B）: Qwen3.5-2Bベース。0.33Bビジョンエンコーダ内蔵
d3-lite（0.85B）: Qwen3.5-0.8Bベース。0.10Bビジョンエンコーダ内蔵
d3-edge（0.59B）: Qwen3.5-0.8Bベース。0.10Bビジョンエンコーダ内蔵

各モデルは「Choice（選択肢）」「Yes/No（二値判定）」「Score（評価値）」の3種類の質問タイプに対応しており、最大32フレームの動画（2fps、各フレーム0.2メガピクセル）や最大1.6メガピクセルの複数画像を受け取り、単一コールで高速判定します。

世代間性能比較とレイテンシ（独自価値要素）

Decision 3.0と前世代（Decision 2.0）および競合モデルとの性能・推論速度の比較は以下の通りです。

モデル名	総パラメータ数	Jev Decision Index（公開スイート）	前世代比（スコア差）	AMD MI325X単体推論速度（テキスト／画像／動画）
d3 (Decision 3.0)	26.09B	65.5	+8.5	55 ms / 273 ms / 553 ms
Perplexity Decider v1.1	27B	62.3	—	非公開
Decision 2.0 (前世代)	27B	57.0	基準	テキストのみ対応
d3-flash	8.39B	57.79	+11.0	高速推論対応
d3-edge	0.59B	28.82	+12.1	6.7 ms / 41.9 ms / 308.3 ms

最上位のd3は、競合するPerplexity Decider v1.1（62.3）を上回るベンチマークスコアを記録しています。また、最軽量のd3-edgeでは単一GPUでテキスト判定が6.7ミリ秒という極めて低い遅延を達成しており、多段AIエージェントのルーティングやガードレール判定に適しています。

未確認事項と利用上の留意点

OrcaRouterの分析では、以下の3つの未確認事項が指摘されています。

入力トークン上限の未記載: 設定ファイル上のmax_lengthが未指定（未設定）となっており、状態記述や質問文の厳密なトークン上限が開示されていません
較正値（キャリブレーション）の非公開: 出力確率（0.9など）の統計的信頼性を表すBrierスコアや期待較正誤差（ECE）が記載されていません
ベンチマークの第三者未検証: 公開されている数値はすべてvLLM-SRチームの独自計測であり、外部機関による再現検証は行われていません

分析と展望

Decision 3.0は、大規模言語モデル（LLM）を毎回呼び出す代わりに、特化型の軽量決定モデルをパイプラインの前段に配置する「System Oneルーター」の普及を加速させるマイルストーンです。特に視覚情報（画像・動画）を含むリクエストに対してトークン生成コストを払わずに即座にルーティングや安全確認が行えるため、AIエージェントの運用コスト削減とレスポンス高速化に大きく貢献するとみられます。

引用元：OrcaRouter | vllm-sr/d3