Unsloth、Google「Gemma 4」シリーズのファインチューニングに対応、VRAMを60%削減

オープンソースのLLM高速化ライブラリを開発するUnslothは、Googleの最新オープンAIモデル「Gemma 4」シリーズ（E2B, E4B, 26B-A4B, 31B）のテキスト、画像、音声、および強化学習（RL）を対象としたファインチューニング（SFT, LoRA, QLoRA）への完全対応を発表した。

Unslothの最適化カーネルを使用することで、標準的なFlashAttention-2（FA2）環境と比較して、学習速度を約1.5倍高速化しつつ、VRAM消費量を約60%削減することに成功。これにより、これまで大規模なインフラを必要としていたGemma 4の学習が個人開発者レベルでも実行可能となり、例えばE2Bモデルはわずか8GBのVRAMで、31BモデルのQLoRA学習も22GBのVRAMを搭載した一般向けのGPUで実行可能となる。

また、本ガイドでは、Gemma 4の学習時に発生しやすい数多くの固有のバグに対する修正情報が網羅されている。具体的には、num_kv_shared_layers = 0 に起因するキャッシュのインデックス境界エラー（IndexError）や、LoRA学習時に use_cache=False とした際にアテンション計算が破損して出力が意味不明になるHugging Face Transformersの深刻なバグなど、Unsloth側で独自に対策・修正した技術詳細が共有されている。

さらに、新たに公開されたオープンソースのローカルAI用Web UI「Unsloth Studio」を介して、macOS、Windows、Linux上で数クリックでモデルを読み込み、ハイパーパラメータ調整、学習、そしてGGUF形式へのエクスポートまでを一気通貫で実行できる環境が無料で提供されている。