Prism ML、5.9GBで高性能な「Bonsai 2 27B」公開

米カリフォルニア州パサデナに拠点を置くAIスタートアップのPrism ML（モデル圧縮や高効率なエッジAI技術を研究開発する米企業）は、Alibabaの「Qwen（Alibaba Cloudが開発する高性能なオープンウェイトモデルシリーズ）3.8 27B」をベースに、メモリ使用量をわずか5.9GBへと圧縮しながら、フル精度モデル比で98.2％の性能を維持した次世代モデル「Ternary Bonsai 2 27B（3値量子化技術により27B級モデルを極小フットプリントで実行可能にしたAIモデル）」を公開しました。オープンソースのApache 2.0ライセンスで無償配布されています。

9倍以上の軽量化を達成しフル精度の98.2％性能を維持

Prism MLの公式発表およびGIGAZINEの報道によると、Bonsai 2 27Bはパラメータ数278億（27.8B）のマルチモーダル言語モデルであり、Google Cloudのv5 TPUを用いて学習されました。

最大の特徴は「3値量子化（重みを1・0・-1の3値で表現し計算量とメモリ消費を劇的に削減する手法）（Ternary）」技術の採用です。通常のフル精度（16ビット浮動小数点等）モデルに比べてメモリ容量を9分の1以下（5.9GB）に削減することに成功しました。

推論、数学、コーディング、指示追従、画像理解、エージェントツール呼び出しを含む全20種類の主要ベンチマークにおいて、フル精度のQwen3.8 27B（総合スコア85.4）に対し、Bonsai 2 27Bは総合83.9を記録し、98.2％という驚異的な性能維持率を達成しました。初代Bonsai 27Bにおける性能維持率が95％であったことから、世代間で低ビットモデルの品質劣化が大幅に克服されたことを示しています。

推論速度も極めて高く、一般家庭向けの最新グラフィックカード「NVIDIA GeForce RTX 5090」環境では最大毎秒143トークンの生成速度に達します。VRAMが8GB程度の一般的なGPUや、Apple Siliconを搭載したMac、iPad、さらにはハイエンドiPhoneなどのローカル環境でも実用的な速度で動作します。

独自価値要素：前世代Bonsaiとの比較とローカルAI活用の展望

初代Bonsai 27Bと新世代Bonsai 2 27Bのスペック比較は下表の通りです。

項目	初代 Ternary Bonsai 27B	Ternary Bonsai 2 27B	進化のポイント
​ベースモデル​	Qwen3.6-27B	Qwen3.8 27B	最新のアーキテクチャと知識ベースに刷新
​ファイルサイズ​	約3.9GB	​約5.9GB	マルチモーダル対応と精度保持のため最適化
​性能維持率​	95.0%	98.2%	フル精度モデルとの性能ギャップを劇的に縮小
​主要用途​	基本的なテキスト生成・要約	​長期エージェント、コード生成、視覚理解​	複雑な自律タスクやツール呼び出しに耐える品質へ進化
​ライセンス​	オープンウェイト	Apache 2.0	商用利用・改変・再配布が完全に自由

日本の開発者や個人ユーザーへの恩恵

クラウドAPIへの通信コストやデータ漏洩の懸念を抱える日本の開発現場にとって、VRAM 8GB前後の手頃なPCやMac上で27Bクラスの高度なマルチモーダルモデルを自前実行できる意義は大きいです。機密データを社外に出すことなく、ローカル環境でコードの自動リファクタリングや社内ドキュメントの高度な要約を実行できるようになります。

分析と今後の展望

編集部注: これまでAI業界では「データセンターを巨大化させ、パラメータ数を増大させる」方向への投資が過熱していました。しかしPrism MLが提唱する「インテリジェンス密度（単位メモリや消費電力あたりにどれだけ賢い処理を詰め込めるか）」の向上は、AIの実用化において不可欠なアプローチです。27B級の能力が日常のローカルデバイスで軽快に動くようになったことは、エッジAIと自律エージェントの普及を決定的に加速させます。

引用元：PrismML | GIGAZINE | Hugging Face