Google DeepMind、端末内会話詐欺検知AIを発表

Google DeepMindとシンガポール政府技術庁（GovTech Singapore（シンガポールのデジタル変革と公共サービス技術を統括する政府機関））は、スマートフォンの端末内部で動作する会話型詐欺検出AIモデルを発表しました。軽量モデル「Gemma（Googleがオープンに提供する軽量で高効率な基盤モデルファミリー）」をファインチューニングし、メッセージのテキストデータをクラウドへ一切送信（Zero data egress）することなく、プライバシーと暗号化を維持したままリアルタイムに詐欺被害を抑止します。

深刻化するソーシャルエンジニアリング詐欺への対抗

シンガポール国内では、投資詐欺や架空の求人、公務員へのなりすまし犯罪が報告件数の半分以上を占め、2019年以降の被害総額は40億シンガポールドル（S$4 billion）を超えています。

攻撃の手口は、単純なフィッシングURLの送信から、長文の親密な対話を通じて心理的に誘導する「ソーシャルエンジニアリング」へと移行しており、金銭被害全体の最大80%を占めるに至っています。こうした手口に対抗するため、暗号化されたプライベートメッセージを端末の外に出さずに解析できる高度な防御手段が求められていました。

バッテリー消費を抑える二段階パイプラインの仕組み

スマートフォンのバッテリー消費を最小限に抑えつつ高精度な判定を行うため、本システムは二段階のパイプラインを採用しています。

• ​第1段階（Stage 1: 高速スクリーニング）​: 極めて省電力で動作する軽量分類器が、着信したメッセージを一次スクリーニングします。無害と判定された通信はその場で処理を完了します。
• ​第2段階（Stage 2: Gemmaによる文脈解析）​: 疑わしいとフラグが立てられた通信のみを対象に、ファインチューニングされたGemmaモデルが複数ターンの会話文脈を解析（In-context analysis）します。脅威が確認された場合、ユーザーの画面上にリアルタイムで警戒を促す警告を表示します。

厳格な公共ガバナンスと他地域への波及

本技術はシンガポール国際サイバーウィーク（SICW 2026）で披露されました。開発過程では以下の厳格な安全基準が適用されています。

• ​ソブリンサンドボックス​: GovTechが管理するGoogle Cloud環境内で学習・調整が行われ、データは隔離管理されました。
• ​市民データの完全除外​: 市民の個人情報（PII）は一切使用せず、過去の詐欺通報や公開インテリジェンス情報から得られた匿名データセットのみで学習されています。
• ​合成対話による負荷検証​: 多様な詐欺手口や進化するなりすましに対応するため、合成データを用いた広範なストレステストを実施しました。

エッジAIセキュリティの意義と日本への示唆

従来の不正検知システムは、通信内容をサーバーへ送信して解析するか、既知の悪質URLブラックリストに頼る手法が主流でした。今回の成果は、端末内のローカル推論によって「E2EE（エンドツーエンド暗号化）によるプライバシー保護」と「高度な言語モデルによる文脈詐欺防御」を両立できることを実証しています。

日本国内でもSNSやメッセージアプリを介した投資詐欺・特殊詐欺が深刻な問題となっており、通信の秘密を守りながら被害を防ぐエッジAI技術の導入が強く期待されます。Google DeepMindは今後、シンガポール政府との協業を深めるとともに、他国への技術展開も模索する方針を示しています。

引用元：Google DeepMind | 財経新聞