HBMの父「AIの本質はメモリ、GPU稼働は1割」

「HBM（高帯域幅メモリ）の父」と呼ばれるKAIST（韓国科学技術院）の金正浩（キム・ジョンホ）教授がセミナーにて提言を行い、「AIの本質はGPUではなくメモリである」と指摘した。現在のGPUはデータの読み書きに要するボトルネック（フォン・ノイマン・ボトネックなど）により、実際の計算処理に使われている時間は全体の約10%に過ぎないと指摘。今後の自律型AI（Agentic AI）や具身知能（ロボティクス）の普及に伴い、メモリ需要は従来の1000倍に達するとの見通しを示した。

1. GPU有効稼働率10%の衝撃

大量のパラメータを処理する現代の大規模言語モデルにおいては、演算ユニットであるGPUの計算スピードに対して、メモリからデータを読み書きする帯域幅が圧倒的に不足している。結果としてGPUは多くの時間をデータ転送の待機時間に費やしており、AI半導体の実質的な限界はメモリ側にあるとされる。

2. 今後求められるメモリ要件の爆発的増加

将来的にエージェントAIや人型ロボットが日常に浸透すると、常に環境をセンシングして長時間の文脈（コンテキスト）を記憶し続けるためのメモリアーキテクチャが必要となる。金教授は、これによりハードウェアに求められるメモリ帯域と容量は指数関数的に増大し、次世代HBMや新しいメモリ規格がAIの覇権を握る鍵になると分析している。

AI半導体業界はこれまでNVIDIAを中心とするGPUの処理能力向上に焦点を当ててきたが、今後はサムスンやSKハイニックスなどが手がけるメモリの帯域幅競争がさらに激化することを示唆している。メモリのイノベーションなしには、次世代の高度な自律AIのローカル稼働や社会実装は困難であると見られている。