Meta、ローカル稼働向けモデルMuse Glimmerを公開

MetaのAI研究組織「Meta Superintelligence Labs」は、手元のPCやMacで常時稼働するAIエージェント向けモデル「Muse Glimmer」（300億パラメータ）を開発し、重みをApache 2.0ライセンスで公開した。1基のコンシューマー向けGPUで動作する技術的アプローチが注目されている。

技術的詳細と確認済みの事実

通常、300億（30B）パラメータのLLMをフル精度で動かすには55GB以上のVRAMが必要とされる。Metaは以下の圧縮・高速化手法により24GB〜32GBのメモリ枠への格納を実現した。

• 4bit量子化​: 重みを4bit精度に圧縮し、言語モデル部分を20GB未満に縮小。KVキャッシュやマルチモーダル用エンコーダのメモリ枠を確保。
• ​投機的デコード（DFlash）​: 軽量なドラフターモデルが複数のトークンを先行提案し、本体モデルが並列検証・補正を行うことで生成スピードを大幅に高速化。
• ​動作検証環境​: MacBook「M4 Max」「M5 Max」およびNVIDIA「GeForce RTX 5090」で高速動作を確認。
• ​エコシステム対応​: Hugging Faceで配布。Ollama、LM Studio、vLLM、SGLangや、MLX、ExecuTorch環境に数日中に統合予定。

タスク完遂（SWE-Bench等）、ツール呼び出し、失敗からの自動復旧、マルチモーダル入力（画像＋テキスト）を含む8つのエージェント機能を強化している。

従来モデルとの比較と独自価値

同等サイズ帯の競合モデルとの比較において、優れたエージェント性能を示している。

評価項目	Muse Glimmer (30B)	Gemma4-31B / Qwen3.6-27B
実行環境	1基のGPU（24GB/32GB）	同等〜やや多めのメモリを要求
生成高速化	DFlashドラフター標準付属	別途高速化設定が必要な場合あり
評価基準	Advanced AI Scaling Framework適合	各自検証

分析と今後の展望

機密データや個人情報を扱う企業にとって、クラウドを介さず自社PC上で常時自律稼働するAIエージェントの価値は極めて高い。4bit量子化と投機的デコードを統合したMuse Glimmerの登場により、ローカルAIエージェントの現場導入が一層進むと期待される。

引用元：itmedia.co.jp