AI関連の最新ニュースをピックアップ
NVIDIAの次世代AIインフラプラットフォーム「Vera Rubin(NVIDIAの次世代データセンター向けAIプラットフォーム)」の本格的な生産拡大に伴い、サプライチェーンの広範な領域、特にTLC NAND型フラッシュメモリのスポット市場で供給逼迫と価格上昇が発生しています。
512Gb TLC NANDのスポット価格は、6月の軟化局面を経て再び21ドルに到達しました。この価格高騰の主因となっているのが、Vera Rubinプラットフォームで導入されたContext Memory eXtension(CMX)アーキテクチャです。
大規模言語モデルの推論時に生成されるKVキャッシュ(アテンション層の文脈メモ)を効率的に処理するため、NVIDIAはHBMと従来のバックエンドネットワークストレージの間に新たな中間ストレージ層「CMX」を導入しました。
AIデータセンター向け高密度・高性能エンタープライズSSD(eSSD)の需要もVera Rubinの立ち上がりに連動して急拡大しています。
| 項目 | 構成・仕様 | 影響 |
|---|---|---|
| CMXサーバー(2U) | 600TB TLC Flash + 4× BlueField-4 DPU | KVキャッシュをリアルタイム処理 |
| CMX Pod容量 | 最大9.6PB (9,600TB) | NANDセルを大量消費 |
| スポット市場動向 | 512Gb TLC NANDが21ドルに高騰 | 長期契約外の調達コスト増 |
なお、一部で噂されていた「Vera Rubin UltraにおけるHBM4E搭載量削減(マージン確保のためのデスペック)」について、Bank of Americaは短期的な供給制約への一時的対応に過ぎず、恒久的な低容量SKU化ではないとの分析を示しています。
フロンティアAIモデルのコンテキスト長拡大に伴い、HBMだけでは賄いきれないKVキャッシュの保持コストがインフラ設計の最大の課題となっています。NVIDIAがCMXを標準アーキテクチャとして組み込んだことで、GPU本体の半導体のみならず、NANDフラッシュ市場全体にAIインフラ起因の構造的需要シフトが波及し始めています。
引用元:Wccftech