Gemma 4のローカル実行：Unslothが推奨設定を公開

AI開発プラットフォームを提供するUnslothは、Google DeepMindが開発したオープンウェイト（ライセンスに準拠して二次配布可能な）AIモデル「Gemma 4」ファミリーを個人のローカル環境で動かすための包括的な設定ガイドを公開しました。Gemma 4は高密度な標準モデルだけでなく、処理速度を向上させたMoE（混合専門家：複数の小規模モデルを組み合わせる手法）モデルなど複数サイズがあり、本ガイドではそれぞれの実行に必要なメモリ容量や、「思考モード（モデルが回答前に推論を行う機能）」の制御方法などが詳しく解説されています。

1. 各モデルの動作に必要なメモリ要件

Gemma 4は複数のサイズが展開されており、Unslothは動作要件を公表しました。スマートフォンなどでも動く軽量な「E2B」「E4B」から、高精度な「31B（310億パラメータ）」まで存在します。例えば、テキストや画像、音声の入力をサポートする「12B Unified」モデルは、QAT（量子化を考慮したトレーニング：精度劣化を防ぐ圧縮手法）や4-bit量子化（モデルのデータサイズを圧縮する軽量化技術）を行うことで、わずか8GBのRAM（一時メモリ）を搭載したPCやMacで動作します。また、動作速度と精度のバランスが良いMoEモデルの「26B-A4B」は、4-bit量子化で16〜18GBのメモリが必要とされています。

2. 「思考モード」の制御と設定手順

Gemma 4は、回答を出力する前に「思考プロセス」を挟む新しい仕組みを備えています。システムプロンプトの先頭に <|think|> という記述を追加することで、モデルは思考用チャネルを通じて論理的な推論を行ってから最終的な回答を返します。この思考プロセスを無効にしたい場合は、起動用パラメータで --chat-template-kwargs '{"enable_thinking"\:false}' を指定します。また、対話を繰り返す際は、過去の思考プロセスを会話履歴に含めず、最終的な回答テキストのみを履歴として引き継ぐことが推奨されています。

3. 簡単な実行をサポートする「Unsloth Studio」の提供

Unslothは、MacやWindows、LinuxのWebブラウザ上で、GGUF（ローカル用のモデルファイル形式）やMLX（Mac向けに最適化されたフレームワーク）形式のGemma 4をワンクリックで起動できるツール「Unsloth Studio」のセットアップ手順も公開しました。これにより、自動的なWeb検索機能やプログラム実行（Pythonコードなどの実行）といったエージェント（自律的にタスクを処理するAI）機能を、初心者でも容易に自分のパソコン上で体験できます。

Gemma 4ファミリーは小型ながら高度な推論機能と音声対応を備えており、Unslothが公開した最適化ガイドは個人開発者にとって有用な手引きとなると考えられます。従来は高価なビデオカードを積んだサーバーが必要だった高度なAIエージェントの作成が、今後は一般的なノートPCやデスクトップPCでも手軽に実行可能になると見られます。これにより、外部にデータを送信しないプライバシー重視のローカルAI活用が、個人や企業の間でさらに加速する契機になるでしょう。