Metaとハーバード大、AI音声詐欺リスクの調査を発表

米Meta（米国の大手テクノロジー企業、オープンAIモデルLlamaシリーズなどを開発）および米ハーバード大学の研究者チームは2026年10月28日、最新のAI音声合成技術と大規模言語モデルを悪用した電話詐欺（ボイスフィッシング）に対する人間の脆弱性を大規模調査した論文を公表した。

わずか数秒の音声サンプルから高精度な声を再現できるボイスクローン（少量の音声データから特定人物の声質や話し方を再現する音声合成技術）技術と対話AIが融合した結果、家族の危機などを装う感情的なシナリオにおいて、対象者の36%以上が騙される危険性があることが明らかになった。

4100人を対象とした6つのモデル比較検証

研究チームは米国の成人4,100人を対象に、6種類の代表的な音声モデル（Llama Full-Duplex、OpenAI AVM、Gemini、Sesame、Play.AI、ElevenLabs）と本物の人間の声を用いて実験を実施した。

検証された5つの詐欺シナリオと主な傾向は以下の通りである。

• ​親族偽装（危機に陥った姉妹）​: クローン音声を用いて事故や急病を訴え緊急送金を求めるシナリオでは、36.1%が要求に応じる可能性を示した。
• ​公的機関偽装（警察・保釈金）​: 親族が逮捕されたとして保釈金を要求する手口も感情的切迫感から騙される割合が高かった。
• ​事務的サポート詐欺​: カード会社やGmailのサポートを装う手口に比べ、感情や人間関係に訴えるシナリオは成功確率が3倍から5倍以上跳ね上がった。

モデル別では、Sesameの音声品質が極めて高く、被験者が本物の人間と区別することが統計的に不可能な水準に達していた。

日本の読者への影響と防犯指針

日本においても「オレオレ詐欺」や還付金詐欺などの特殊詐欺被害が深刻化しているが、従来の不自然な合成音声から、完全に本人の肉声と錯覚させるクローン音声への置き換えが現実の脅威となりつつある。

電話越しでの金銭要求やパスワード確認に対しては、一度通話を切断して事前に合意した連絡先へ折り返すなど、音声自体を本人確認手段として過信しない運用の徹底が求められる。

引用元：ITmedia NEWS