AI関連の最新ニュースをピックアップ
NVIDIA(米国の半導体大手企業)は2026年8月27日、Alibaba(中国のIT大手企業)が次世代アーキテクチャ「Qwen4」の先行プレビューとして公開した最新オープンモデル「Qwen3.8-Flash-Next」向けに、ラックスケールAIシステム「NVIDIA GB300 NVL72」でのDay-0最適化サポートおよび推論検証結果を発表した。
Qwen3.8-Flash-Nextは、総パラメータ数1,760億(176B、N-gram埋め込み51Bを含む)を有し、トークンあたり60億(6B)パラメータを活性化するMoE(複数の専門家ネットワークを切り替えて処理する仕組み)型のマルチモーダルモデルである。ネイティブで262,144トークン、YaRN技術により最大100万トークン(1M tokens)の文脈長に対応する。
文脈が長くなるにつれて発生する計算負荷とKVキャッシュ(過去の文脈を再利用するためのメモリ保持機構)の肥大化を抑えるため、Gated DeltaNet(GDN)とQwen Sparse Attention(QSA)を組み合わせたハイブリッド設計を採用している。

4層のうち3層にGDNを配置して過去の履歴を固定サイズの再帰状態へ圧縮し、残り1層のQSAで文脈全体の精密な情報検索を行う。これにより、100万トークン処理時において従来のフルアテンション比で事前充填(Prefill)速度が最大7.6倍、デコード速度が最大4.9倍に高速化された。
NVIDIA GB300 NVL72は、72基のBlackwell Ultra GPUを130 TB/sの全対全NVLinkファブリックで結合した単一ドメインシステムである。

TensorRT-LLM(FP8精度)を用いた検証において、GB300 NVL72は以下の推論性能を達成した。
これにより、エージェント型プログラミング(Agentic Coding)や長文ドキュメント処理などの高負荷タスクを低遅延かつ高スループットで処理できる。また、ラック規模だけでなく、NVIDIA DGX StationやRTX PRO 6000搭載ワークステーションなどのローカル環境でも同一モデルのプロトタイピングが可能である。
開発者向けには複数の推論エンジンと追加学習フレームワークがサポートされている。
| 分野 | 対応ツール・ライブラリ | 特徴とサポート内容 |
|---|---|---|
| 推論エンジン | SGLang, vLLM, TensorRT-LLM, TokenSpeed | オープンソース推論レシピおよびDay-0最適化 |
| 追加学習 | NVIDIA NeMo AutoModel | Hugging Faceチェックポイント対応、SFTおよびLoRA |
| 強化学習 | NVIDIA NeMo RL | エージェント向け強化学習レシピ |
Alibabaのベンチマークによると、キャッシュ利用率の高いオンライン環境(1Mトークン長、プレフィックスキャッシュヒット率90%)において、Qwen3.8-Flash-Nextは前世代の「Qwen3.7-Plus」と比較して8.6倍のプレフィックススループットを記録した。
ハードウェアとモデル構造の双方が長文コンテキストとエージェント推論に最適化されたことで、オープンウェイトモデルを用いた高度なコーディング支援エージェントの商用展開が一段と加速するとみられる。