Meta、InstagramのAIラベルで誤判定が再発

米Meta（FacebookやInstagramを運営する米大手テクノロジー企業）がInstagram上で展開している「AI情報（AI Content）」ラベルの自動付与システムにおいて、実写写真に対する誤付与（偽陽性）と生成AI画像の見逃し（偽陰性）の双方が発生しているとAIセキュリティ専門メディアが報じた。補助的な写真編集ツールを用いた本物の写真がAI生成と判定される一方、業界標準の電子透かしを含む完全生成画像が無印のまま投稿されており、2024年に発生した誤判定トラブルが再発した格好となっている。

軽微なレタッチの誤判定と生成画像の見逃し

報告によると、デザインツール「Canva」の背景削除（Background Remover）機能を用いた写真に対し、Instagram上で自動的にAIラベルが付与される現象がThreadsユーザーなどから相次いで報告された。写真から小さな埃を除去しただけで画像全体がAI扱いされたケースや、歌手ホールジー氏のコスメブランド「About Face」がiPhoneの写真アプリで軽微な編集を行った実写写真にAIラベルが付与された事例も確認されている。

一方で、より深刻な問題として生成AI画像の見逃しが挙げられている。米メディアの検証において、Googleの「Gemini（Nano Bananaモデル）」で生成され、業界標準の来歴規格であるC2PA（コンテンツの作成元や編集履歴を暗号学的に証明するオープン標準規格）やGoogleの電子透かしSynthID（AI生成コンテンツの検出を可能にするGoogleの不可視電子透かし技術）が埋め込まれた完全合成画像を投稿したところ、Instagramのシステムはいずれも検知できずラベルなしでフィード上に公開された。テスト検証において安定してラベルが付与されたのは、Meta自身のAIアプリ内で作成されたコンテンツのみであったという。

補助的機械学習と生成AIの境界および未確認事項

今回の不具合の背景には、写真編集における「補助的な機械学習」と「生成AI」の技術的境界の曖昧さがある。

背景削除や被写体の自動選択技術は、Photoshopをはじめとする画像処理ツールにおいて10年以上前から機械学習を活用して提供されてきた。これらはプロンプトから未知のピクセルをゼロから合成する生成AIとは本質的に異なるが、Metaの自動判定ロジックがその差異を適切に識別できていない実態が浮き彫りとなっている。

また、Metaは2024年2月にも「Made by AI」ラベルにおいてAdobeツールで編集した写真が誤認識される問題を起こし、ラベル名称を「AI情報」に変更した経緯がある。MetaはIPTCやC2PAのメタデータをスキャンして判定すると説明してきたものの、他社ベンダーの電子透かし信号をどのような優先順位やアルゴリズムで処理しているかの具体的な判定基準は非公開のままであり、技術的な不透明さが残されている。

ラベルの信頼性とソーシャルメディアへの影響

生成AIによる精巧なフェイク画像が急速に拡散する中、ソーシャルメディア事業者が付与する識別ラベルは、一般利用者が情報の真偽を判断するための重要な防壁として期待されている。

しかし、本物の写真が誤ってAI扱いされ、逆に精巧な生成画像が無警告で流通する現状は、利用者にラベルの形骸化を促すだけでなく、真正なクリエイターの作品に対する信頼を損ねるリスクを孕む。悪用を避けるために検出ロジックの詳細を秘匿する必然性はあるものの、C2PAやSynthIDといった標準規格との整合性を高め、判定精度の検証可能性を確保することが急務となっている。

引用元：AI Chat Daily