NVIDIA、新CPU「Vera」の技術詳細を公開

米エヌビディア（NVIDIA）は、同社の技術ブログにて、次世代AIファクトリーの稼働率向上を目的に設計された新型CPU「Vera CPU」の技術詳細を公開しました。AIエージェントの処理や強化学習において、GPU推論の合間に発生するCPU側のアクション（コード実行やツール呼び出しなど）が全体のボトルネックとなることに着目。Vera CPUは、自社設計の「Olympus（オリンパス）」コアを88個搭載し、従来のx86系データセンターCPUと比較して圧倒的なスループット向上と遅延の削減を実現します。

1. エージェント型ワークロードにおけるCPUの重要性

AIエージェントや強化学習（RL）は、GPUによる単純なテキスト生成（トークン生成）とは異なり、推論ステップの合間に「コードの実行」「データベースの検索」「外部ツールの呼び出し」など、CPUが主導する処理が数多く発生します。CPU側の処理が遅れると、GPUが待機状態になるだけでなく、GPUメモリ上の「KVキャッシュ（推論の中間データ）」が別ユーザーの処理のために追い出され（エビクション）、再度文脈を読み込み直す（再計算）という大きなロスが発生してしまいます。

2. 「Olympus」コアと圧倒的な性能向上

Vera CPUは、こうした複雑な分岐処理を伴うエージェント実行向けに最適化されたOlympusコアを搭載しています。主な技術的特徴は以下の通りです。

• ​コア性能1.8倍​: コア単体の実行性能が約1.8倍になり、強化学習時の環境評価完了率が従来の45%から85%に上昇。GPUに良質な学習シグナルを素早く供給できます。
• ​遅延の40%低減​: チップを分割するマルチチップレット構造ではなく、単一の半導体上に全88コアを搭載する「モノリシック・ダイ」を採用。コア間通信のロスを抑え、高負荷時におけるピーク遅延をx86 CPUより40%削減しました。
• ​広帯域メモリ​: 低消費電力のLPDDR5xメモリを採用し、システム全体で最大1.2 TB/s（コアあたり14 GB/s）のメモリ帯域幅を達成。従来のCPUの3倍以上の帯域を半分以下の消費電力でカバーします。

AIシステムが自律的に推論と行動を繰り返す「エージェント型AI」へのシフトに伴い、CPUの処理能力がGPUの稼働効率そのものを左右する時代に入っています。NVIDIAがVera CPUによってCPU側のボトルネックを徹底的に排除したことは、同社の次世代AIインフラ「Vera Rubin NVL72」などと組み合わせることで、AIファクトリー全体のコストパフォーマンスと省電力性を劇的に向上させる原動力になると見られます。

引用元：NVIDIA Developer Forums | NVIDIA Developer Blog | PC Watch