Llama Guard 3、長文詐欺の検出精度に課題が判明

セキュリティ国際学会「USENIX Security '26」で発表された研究論文により、Metaの安全監視モデルLlama Guard 3（LLMの入出力を安全基準で検知するMetaのセーフティモデル）をはじめとする主要なAIセーフティフィルタが、長文（ロングフォーム）のロマンス詐欺対話ログの検出において検知を回避される脆弱性を抱えていることが明らかになった。

セキュリティ研究の確認済み事実

研究チームが250件のAI生成ダイアログログを用いてテストを実施したところ、以下の内容が実証・確認された。

• ​長文対話での検知回避: 複数回にわたる長い会話プロセスの中で感情的な親密さを演出しつつ送金を促す「ロマンス詐欺」の対話パターンにおいて、既存のセーフティフィルタが有害性を正しく判定できず、検知をすり抜けるケースが多数発生した。
• ​評価データの限定性: 従来の安全評価ベンチマークが主に「単発の有害プロンプト（一問一答）」に偏っていたため、長文コンテキスト全体に分散された詐欺的な誘導意図を見失う構造的課題が浮き彫りとなった。

未確認事項とセキュリティ対策の独自整理

本研究結果に基づくセキュリティガバナンス上の課題整理は以下の通りである。

• ​実務でのガードレール強化の急務: AIチャットボットを顧客対応やSNSメッセージ処理に導入している企業は、従来の単語レベルのセーフティフィルタだけに頼るリスクを認識する必要がある。
• ​未確定なモデル改修スケジュール: MetaをはじめとするAI開発ベンダーが、長文マルチターン対話に対応したセーフティフィルタのアップデート版をどの時期に公開するかについては現時点で未発表となっている。

AIガバナンスの分析と今後の展望

AIが人間に近い自然で長期的な対話能力を獲得したことで、詐欺グループが自律型チャットボットを悪用したロマンス詐欺を大量自動化する脅威が現実味を帯びている。セーフティモデル側も単一ターンの判定から、会話履歴全体（文脈）を保持・解析する高度なガードレールアーキテクチャへと進化することが不可欠である。

引用元：zaikei.co.jp