NVIDIA、推論加速器「Groq 3 LPX」の量産開始

米NVIDIA（AIコンピューティングおよびGPU大手の米半導体企業）は、次世代AIプラットフォーム「Vera Rubin NVL72」ラックシステムに統合される超低遅延・高スループット推論アクセラレーター「Groq 3 LPX」の量産出荷を開始したことを発表した。

Vera Rubinと推論特化アクセラレーターの融合

「Groq 3 LPX」は、リアルタイムな自律エージェントや推論思考（Reasoning）モデルに求められる超低レイテンシ処理に特化した専用プロセッサである。Vera Rubin NVL72ラック内に組み込むことで、大規模モデルの学習・大容量推論を担当するRubin GPUと、即時応答が要求されるトークン生成を担当するLPXが協調動作する。

主要技術・コンポーネント	仕様・特徴
Groq 3 LPX	LPXアーキテクチャによる決定論的超低遅延推論、エージェント思考ループに最適化
NVLink Fusion	GPUおよびアクセラレーター間で最大3.6TB/sの超高速相互接続を実現
Spectrum-X Multiplane	データセンター規模でロスレス通信と高帯域幅を提供する次世代イーサネット
最適化モデル	Gemma 4を含む次世代推論・マルチモーダルモデルのリアルタイム実行に対応

リアルタイムエージェント推論の課題解決

AIエージェントが自律的に多段階の思考やツール呼び出しを行う際、従来のGPU単体構成ではトークン生成の遅延が累積し、ユーザー応答性が低下する課題があった。Groq 3 LPXの統合により、思考プロセス全体の応答速度を劇的に改善する。

分析・展望

推論ワークロードの急増とエージェントAIの普及に伴い、計算インフラは単一のGPUアーキテクチャから、目的別の異種プロセッサを高速インターコネクトで束ねるヘテロジニアス構成へと移行している。NVLink FusionとSpectrum-Xを組み合わせたNVIDIAの垂直統合戦略は、次世代AIデータセンターの標準仕様を確立する動きとなる。

引用元：NVIDIA | Japan Blog