27BモデルBonsaiがスマホで動作　Appleも技術評価

米AIスタートアップのPrismML（カリフォルニア工科大学発の超低ビット圧縮技術に強みを持つ新興AI企業）は7月14日、Alibabaの大規模言語モデル「Qwen 3.6 27B（Alibabaが開発した270億パラメータのオープンソースLLMファミリー）」をベースとした、スマートフォンやPCなどのエッジ端末で動作する超軽量マルチモーダルAIモデル「Bonsai 27B」を発表しました。独自の圧縮技術により、元々54GBあったモデル容量を最少3.9GBまで削減し、iPhone 17 Pro等でも動作可能としています。Appleも同社の技術に関心を示しており、iPhoneへの将来的な統合に向けて初期段階の評価を行っていることが明らかになりました。

270億パラメータを最少3.9GBに圧縮（確認済みの事実）

Bonsai 27Bは、品質重視の「Ternary Bonsai 27B」と、極限まで軽量化した「1-bit Bonsai 27B」の2つのバリエーションで提供されます。 通常、270億（27B）パラメータ級のモデルはFP16精度で約54GB、4ビット量子化を施しても約18GBのメモリを占有します。しかし、PrismMLはこれを独自の超低ビット技術で圧縮しました。

各バリエーションの仕様と検証された性能は以下の通りです。

モデル名	重みの形式（ビット精度）	モデル容量	想定ターゲット端末	生成速度 (GeForce RTX 5090)	生成速度 (Apple M5 Max)
Ternary Bonsai 27B	三値（-1, 0, +1 / 実効1.71bit）	5.9 GB	ノートPC	134 トークン/秒	58 トークン/秒
1-bit Bonsai 27B	二値（-1, +1 / 実効1.125bit）	3.9 GB	スマートフォン等（iPhone 17 Pro等）	163 トークン/秒​	87 トークン/秒​

PrismMLが実施した15種類のベンチマークテストによると、元の16ビット基盤モデルの性能を100%とした場合、Ternary版は約95%、1ビット版は約90%の総合スコアを維持しており、圧縮による劣化が極めて少ないことが実証されています。 また、両モデルともテキストに加え、スクリーンショットやドキュメント、カメラ入力などの画像認識（マルチモーダル）に対応しており、最大26万2,000トークンのコンテキスト長や複数段階の推論、ツール呼び出し、コンピューター操作をサポートします。AppleデバイスではMLX、NVIDIA GPUではCUDAを通じてネイティブ動作します。

Appleとの技術提携交渉と未確認事項（独自価値要素）

今回の発表で特に注目されるのは、iOS 27のアップデートを控えたAppleが、モバイル端末での大規模言語モデル実行に向けてPrismMLと技術提携の初期協議を行っている点です。

AppleのオンデバイスAI（AFM 3）との比較

Appleが現在オンデバイスで動作させているAIモデル「AFM 3 Core Advanced」は、仕様上のパラメータ数は200億（20B）ですが、スパースに有効化されるため、実際に同時に動いているのは10億〜40億（1B〜4B）パラメータにとどまるとされます。これに対し、270億パラメータの「Qwen」を3.9GBという極小サイズに抑えて常時フル稼働させられるPrismMLの技術は、端末側のAI処理能力を劇的に向上させる可能性があります。

現時点で未確定の事項

一方で、以下の点については現時点で未確認であり、今後の動向が注目されます：

• ​提携の具体化​: PrismMLのCEOであるババク・ハシビ氏は、CNBCの取材に対して「Appleを含む複数社が同社の技術を評価している」と述べるにとどまり、具体的な提携内容や実際の製品（iPhone等）への採用可否は決定していません。
• ​実機での負荷とバッテリー効率​: デモではiPhone 17 Pro（メモリ12GB搭載、アプリ使用可能領域約6GB）での動作が謳われていますが、実使用におけるバッテリー消費や発熱、長時間の安定性への影響はまだ大規模に検証されていません。

エッジAIの普及とAppleのハードウェア戦略（分析・展望）

Bonsai 27BはApache 2.0ライセンスでオープンソースとして公開されており、開発者向けプレビューAPIも期間限定で無償提供されています。 編集部注：このような極小モデル技術が実用化されれば、従来クラウド側で処理されていた高度な推論タスクをプライバシーを守りつつ端末側で完結する「エッジAI（クラウドを介さず端末側でAI推論や学習を完結させる技術）」の普及が大きく加速するとみられます。特に、世界で13億台以上存在するとされるAI Siri非対応の既存iPhoneの買い替え需要（ハードウェア・アップグレード）を喚起したいAppleにとって、PrismMLの技術は極めて戦略的価値が高いピースとなるでしょう。