Google、Gemma4メモリ最大9割減の軽量モデル公開

米Google DeepMindは2026年6月5日（現地時間）、オープンモデル「Gemma 4」ファミリー（E2B、E4B、12B、26B MoE、31B）向けに、モデルサイズを極限まで軽量化しつつ精度を高く保つ技術「QAT（Quantization-Aware Training：量子化を考慮した学習）」を適用した、新しいモデルデータを公開しました。このデータを利用することで、モデルの精度劣化を最小限に抑えながら必要メモリ量を大幅に削減できます。これにより、これまで高性能なGPU（画像処理半導体）を積んだサーバーやPCが必要だったAIモデルが、一般的なスマートフォンや薄型ノートPCなど、身近なデバイスでもスムーズに動作するようになります。

1. 品質劣化を自ら補正する「QAT」の仕組み

AIモデルを軽量化するために一般的に用いられるのは、数値の精度を落とす「量子化」と呼ばれるデータ圧縮処理です。これまでは、学習済みのAIモデルを後から圧縮する「PTQ（ポストトレーニング量子化）」が多く使われていましたが、回答の品質が落ちやすい課題がありました。 これに対し、今回Googleが提供した「QAT」では、AIのトレーニング中に量子化による影響をシミュレートし、AI自らがその精度低下を補うように学習します。そのため、圧縮前の品質を実質的に維持したままモデルサイズを小さくすることが可能になりました。

2. メモリ消費を最大約90%削減したモバイル向け最適化

特にスマートフォンのようなモバイル環境で動かすための「E2B」および「E4B」モデルには、独自の圧縮技術が導入されました。

• ​静的アクティベーション​​：処理負荷を下げるためにスケーリング（データ補正）設定を学習時に計算済みにしておき、モバイル半導体での応答を高速化します。
• ​チャネル単位の量子化​​：モバイル向けプロセッサが最も効率よく処理できるデータ構造へ変更します。
• ​対象限定の2bit量子化​​：AIの核となる思考部分のレイヤー（層）は高精度を保ちつつ、単純な言葉の出力を行う部分のレイヤーを極端に圧縮（2ビット化）します。
• KVキャッシュ（会話履歴の一時保存）と埋め込みの最適化​​：長い対話を行ってもメモリ不足になりにくい仕組みです。

これらにより、通常では約11.4GBのVRAM（ビデオメモリ）を必要とする「E2B」モデルが、モバイル最適化版では約1.1GB、さらに不要な視覚・音声処理を省いたテキスト専用版では約0.84GB（1GB未満）までメモリ使用量を削減でき、スマートフォンでも十分に動作するサイズへと劇的な圧縮が実現しました。

Gemma 4のQATモデルデータは、すでにAIコミュニティサイト「Hugging Face」で公開されており、「llama.cpp」や「Ollama」などのローカルPC用AI起動ツールでもサポートが開始されています。 今回のリリースにより、機密データの流出を防ぐローカル環境（オフライン動作）で、高性能なAIアシスタントをより手軽に利用できる環境が整い、個人や企業のAI活用シーンが大きく広がると見られます。

​参照ソース​​：Google | 窓の杜