メモリ不足が長期化する背景：エージェントAIの普及とLLMの技術的要因

ITmedia NEWSの記事では、昨今のCPUおよびメモリ（DRAM、NVMe SSD）不足が長期化している背景を解説しています。その主な原因として「エージェントAIの急速な普及」と「LLMの処理における技術的課題（KV-Cacheの肥大化）」の2点が挙げられており、結果としてコンシューマー向けPC市場にも深刻な影響を及ぼしています。

1. エージェントAI普及によるCPU需要急増

• 従来のLLM利用は人間がプロンプトを入力・応答を受け取る形式だったが、エージェントAIはこれをCPU上のエージェントが代行するため膨大なCPU性能が必要になった
• Arm CEOのレネ・ハース氏も「今はエージェントが大量に動く関係で、GPUよりもCPUがボトルネックになっている」と説明しており、2026年4月に同社初のシリコン製品「Arm AGI CPU」を発表した背景と合致している

2. LLMのKV-Cacheによるメモリ肥大化

• LLMはTransformerモデルを使用しており、Query（Q）・Key（K）・Value（V）の行列演算（Attention）を繰り返す
• 長い文章になるほどAttentionの計算量が膨大になるため、過去のAttentionの結果をメモリに保持する「KV-Cache」が利用されている
• 例としてLlama 3 70Bでは8KトークンでKV-Cacheが21GB程度だが、128Kトークンでは328GBにも肥大し、GPUのメモリに収まりきらないサイズとなる

3. KV-Cache問題への対策技術

• 「LMCache」という仕組みが考案されており、KVCacheに階層を設けてGPU上に不要なものはCPUのメインメモリやNVMe SSDに退避させる
• NVIDIAはGrace-Hopper・Grace-Blackwell・Vera-RubinのようにCPUとGPUをNVLinkで接続し、GPUからCPUのメインメモリをGPUの拡張メモリ的に使える構成を提供しており、CPUメモリ容量の重要性がさらに増している
• NVIDIAは「Storage-Next」としてGPUに直接NVMe SSDを接続する取り組みも研究中で、キオクシアが年内サンプル出荷予定

4. コンシューマー市場への波及

• DDR5やNVMe SSDがコンシューマー向けで払底しており、SSDの価格が記録的な高値に
• 台湾ASRockが「HUDIMM」（DDR5 DIMMを32bit×1構成にしてコストを半額に抑える規格）を発表する苦肉の策も登場
• 偽物のDDR5が出回る事態も発生し、DDR4での自作を余儀なくされるユーザーも増加
• AMDがSocket AM4 CPUの供給を継続しており、低価格帯向けのトレンドにもなっている

エージェントAIの普及とLLMのKV-Cache問題という2つの技術的要因が重なり、企業・データセンター向けのCPU・DRAM・NVMe SSDの需要が急増しました。メモリメーカーは単価の高いサーバー向けに生産リソースを優先するため、コンシューマー向けの供給が圧迫されるという構造的な問題が生じています。

特にKV-Cacheの問題は、LLMのコンテキスト長が長くなるほど深刻化する傾向があります。現在のAI開発の方向性として長コンテキスト化が進んでいるため、この問題は今後も続くと予想されます。LMCacheのような階層型キャッシュや、NVIDIAのGrace-BlackwellのようなCPU-GPU統合アーキテクチャは短期的な緩和策になり得ますが、根本的な解決にはKV-Cache削減技術の進歩が必要です。

コンシューマー市場では、DDR5の調達難によりDDR4での自作に回帰する動きや、偽造品流通といった混乱が続いています。メモリ供給が正常化するためには、データセンター向けの需要が落ち着くか、メモリメーカーが生産ラインを拡張するまで時間がかかることが予測されます。AIインフラの拡大がコンシューマーのPC市場に直接的な影響を与える構造が明確になった事例として注目されます。