MetaのAI画像検出ツール、切り抜きで検出率55%に

米Meta（メタ）が最新の画像生成AIモデル「Muse Image」と同時に発表したAI検出ツールについて、画像をトリミング（切り抜き）した場合には検出率が大幅に低下することがロイター通信の報道によって明らかになった。Metaはトリミングや圧縮などの加工を行っても消えない不可視の電子透かし技術「Content Seal（コンテンツ・シール）」の搭載を謳っていたが、実際の検出精度には課題が残る結果となった。

1. トリミング後の検出率が急低下

ロイター通信による検証では、加工を行っていない状態の「Muse Image」生成画像40枚についてはツールが100%の精度でAI生成であると識別できた。しかし、これらの画像を元の1/2から1/3のサイズにトリミングしたところ、正しくAI生成と検出できた割合は55%にまで低下し、半数近くを見逃す結果となった。

2. ディープフェイクの急増と検出技術の遅れ

AIによって作成された、本物と見分けがつかない偽の画像や動画である「ディープフェイク」の流通量は爆発的に増加している。サイバーセキュリティ企業DeepStrikeの推計によると、オンライン上のディープフェイク量は2023年から2025年にかけて年率約900%のペースで成長している。一方で、それを検出する側の技術は発展途上であり、今回のMetaの事例は、生成AIの進化速度に対して防御側である検出ツールが未だ十分な水準に達していない現状を浮き彫りにした。

Metaは画像の無断学習を巡るプライバシー問題への抗議を受け、一部機能を削除するなど「Muse Image」の導入でいくつかの論争に直面している。さらに検出器の精度不足が明らかになったことで、悪意あるディープフェイクへの対抗手段としての信頼性に疑問が生じている。同社は今後、動画生成AI「Muse Video」の発表も控えており、利便性の向上だけでなく、検出技術の強化とプライバシー保護への適切な対応が急務となる。

引用元：Gizmodo