DeepSeek-V4推論性能、AMDが26日間で100倍に

オープンソースモデルの開発で注目を集めるDeepSeekの最新AIモデル「DeepSeek-V4 Pro」（パラメータ数1.6兆）のリリースを受け、米調査会社SemiAnalysisのベンチマークチーム「InferenceX」が各社AI半導体上での推論パフォーマンス analysis を公開しました。NVIDIA BlackwellやAMD MI355X、Huawei Ascend 950DTなどを対象に、リリース初日（Day 0）からソフトウェア最適化によって性能が向上していくプロセスを追跡・比較しています。

1. NVIDIAの優位性と初期の不具合

NVIDIAのプラットフォーム上では、オープンソースの推論エンジンであるSGLangやvLLMがリリース初日からネイティブに対応し、高い処理能力を示しました。リリース3日目にはMTP（投機的デコーディング：複数のトークンを並行予測して推論を高速化する技術）がサポートされ、小規模な処理での速度が大幅に向上しています。一方で、NVIDIA純正の推論最適化ライブラリ「TensorRT-LLM」は、モデル内部の特定サイズ制限の不具合により動作不良が生じ、InferenceXチームが修正プルリクエストを送るまで約10日間正常に機能しなかった事実が報告されています。

2. AMDとHuaweiの急速な最適化

AMDのMI355X（ROCm：AMD製のGPU向けソフトウェアプラットフォームを採用）は、リリース当初は動作が極めて低速でしたが、リリース後 26 日間でチームによるカーネル（計算処理の最小単位）の最適化が進み、処理速度は 100 倍以上に向上しました。一部の対話設定では NVIDIA H200 を上回る結果も記録されています。

一方、HuaweiのAscend 950DT（CANN：ファーウェイ独自のAI演算用ソフトウェアツールキットを採用）は、非NVIDIA製品の中で唯一、初日から最適化された状態で動作しました。これは、行列演算とベクトル演算を独立させた独自のデュアルコアアーキテクチャや、通信ボトルネックを解消する専用エンジンの統合によるものとされています。

DeepSeek-V4の推論性能評価は、単なるハードウェアスペックの比較にとどまらず、モデルリリース後のソフトウェア最適化のスピードがいかに重要であるかを示しています。AMDが短期間で大幅な性能向上を達成したことは、ROCmソフトウェアエコシステムの急速な成熟を裏付けています。また、NVIDIAのGB300 NVL72は、72基のGPUを1つの超高速通信インターフェース「NVLink」で結合することで圧倒的な効率性を実証しており、今後のインフラ競争において大きな優位性を持つと見られています（編集部注：通信オーバーヘッドの抑制が推論効率に直結するため、他社がこの統合度に対抗するにはまだ時間がかかると見られます）。