AI関連の最新ニュースをピックアップ
AI研究企業のDeepGrove(軽量・高性能なAIモデルを開発する企業)は、iPhone上でも動作する小型の言語モデル「Maple-Preview」を発表した。同社によると、同じくiPhone上で動作する既存モデル「Bonsai 27B」と比べて13倍高速に処理できるという。スマートフォン単体でAIを動かすオンデバイスAI(通信を使わず端末単体でAIを動かす方式)の選択肢が増えることになり、通信環境に依存せずAIを利用したい開発者やユーザーにとって注目の発表となる。
Maple-Previewは総パラメーター数202億、実際の推論時に使うアクティブパラメーター数14億9000万のMoE(複数の専門ネットワークを切り替えて使うモデル構造)モデルである。DeepGroveは、既存モデルの計算精度を下げて容量を削減する量子化(AIモデルの計算精度を下げて軽量化する手法)について「性能と効率の両方を不必要に制限する」と主張し、Maple-Previewは学習段階から「1」「0」「-1」の3値で処理する設計を採用しているという。この結果、13万1000トークンのコンテキストを保持した状態でもメモリ使用量は7.69GBにとどまるとしている。
DeepGroveが公開した性能データによると、Maple-Previewは同じくスマートフォン向けの他社モデルと比べても高速・高性能とされている。
| モデル | 特徴 |
|---|---|
| Maple-Preview | 総202億・アクティブ14.9億パラメーター、3値処理 |
| Bonsai 27B(Ternary Bonsai 27B) | iPhoneで動作、Maple-Previewの13分の1の速度とされる |
| Qwen3.5 35B-A3B | DeepGrove公表のベンチマークで比較対象 |
| gpt-oss-20b | DeepGrove公表のベンチマークで比較対象 |
| GLM-4.7-Flash | DeepGrove公表のベンチマークで比較対象 |
いずれもDeepGrove自身が公開したベンチマークであり、第三者による再現検証は現時点で確認できていない。Maple-PreviewはMITライセンスのオープンモデルとしてHugging Faceで配布されており、Webデモも用意されている。
DeepGroveが公開したデモサイトで「スマートフォンの画面には保護フィルムを貼るべきか、iPhone 17の場合」といった日本語の質問を入力した例が公開されているが、応答は日本語ではあったものの内容が不自然で分かりにくいものだったと報告されている。編集部注: この結果はDeepGrove自身が示した一例にすぎず、日本語対応の全体的な精度を判断するには材料が不十分とみられる。日本語での実利用を検討する場合は、英語での応答品質との差を確認する必要があるだろう。
Maple-Previewは名称の通りまだプレビュー段階で、DeepGroveは今後の改善に加え、会話内容に基づいて個人に最適化する仕組みの開発も目指しているという。編集部注: 量子化を用いない3値設計は学習コストが高くなりやすい一方、メモリに制約のあるスマートフォンでの高速化には直結しやすい手法だとみられる。日本語品質や第三者による外部評価が今後どう変化するかが、実用性を判断するうえでの焦点になりそうだ。
引用元:GIGAZINE