AppleオンデバイスAIの作話リスク監査結果公開

米 Apple（iPhoneやMacなどを開発する米国のテクノロジー企業） が開発者向けに提供している約30億パラメータのオンデバイス言語モデル（AFM（Apple Foundation Models。Appleの独自基底言語モデル） 3B）について、独立研究機関による包括的な信頼性・安全性監査レポートが公開されました。モデル自身の確信度出力の信頼性が極めて低く、事実誤認を含む回答を高い確信度で生成する作話（コンファビュレーション）リスクが浮き彫りとなっています。

監査で判明した主な検証数値

監査チームが実施したベンチマークテストでは、以下の課題が報告されています。

• ​作話率の高さ​: 誤った前提を含む事実確認テストにおいて、単一サンプリング時の作話率が 69.1% に達しました。
• ​確信度スコアの破綻​: モデルが出力する確信度（confidence）のAUROCスコアは 0.47 であり、ランダム予測（0.50）を下回る水準でした。誤った回答であっても「確信度99%」を出力する傾向が確認されています。
• ​要約タスクでの過剰拒絶​: 通常のテキスト要約タスクにおいて、約 18.4% の過剰拒絶（安全基準による不必要な生成拒否）が観測されました。

一貫性サンプリング（k=5）による比較検証

監査では、単一サンプリングと複数回サンプリング（一貫性サンプリング: k=5）の比較検証が行われました。

手法	正答率（Selective Accuracy）	回答カバー率	特徴
単一生成（k=1）	42.7%	100%	誤答時も高確信度で出力
一貫性サンプリング（k=5）	82.8%	28.2%	5回生成で不一致時に回答を棄権

5回生成を行って回答が一致しない場合に生成を棄権（Abstain）する制御を取り入れることで、正答率は82.8%へと大幅に向上することが実証されました。

アプリ開発者への提言と今後の展望

分析: オンデバイスモデルを活用する開発者は、モデル自身の確信度スコアを盲信して表示や処理分岐を行うことを避け、複数回サンプリングによる一貫性チェックやクラウドAPIへのフォールバック機構を設計することが不可欠となります。

引用元：THE D[AI]LY BRIEF