Meta監督委、AI偽動画の削除を命令し対策不備を指摘

米Metaのコンテンツモデレーションを審査する準独立機関「監督委員会（Oversight Board）」は、実在する人物を標的とした悪質な生成AIによるディープフェイク（AIを用いて人物の映像や音声を高度に捏造・加工したコンテンツ）動画2件をFacebookから削除するようMetaに命令した。あわせて、急増するAI偽情報に対するMetaの現行対策について「一貫して根本的に不十分」と強い批判を表明し、9項目に及ぶ政策改定を提言した。

放置された2件のAI中傷動画と審査の経緯

今回の判断対象となったのは、実在の人物の映像と音声をAIで改ざんした2件の動画投稿である。

1件目は、英国スコットランドの地方議員が難民に関して過激な発言をしたかのように捏造した動画である。映像内の口の動きと音声が不自然に同期していないなどAI生成の兆候があったが、当事者の議員は「極めてトラウマになる被害」と証言した。当初Metaはこの動画への通報に対し、「信頼できる提携機関からの報告ではない」「選挙プロセスの妨害に当たらない」として削除せず、AI生成ラベルも付与していなかった。

2件目は、欧州で月経教育の普及活動を行うイスラム教徒の女性ボランティアを標的にした加工動画である。テレビインタビューの映像を無断で改ざんし、奇怪な運動をしたりジャンクフードを食べたりしているように仕立て上げ、嘲笑の対象としてネット上で数千万回拡散されていた。Metaは当初、この投稿に対するユーザーからの通報および異議申し立てを自動処理で却下していた。

監督委員会が介入した結果、Metaはヘイト行為規約およびいじめ・嫌がらせ規約への違反を認め、両方の動画を削除することに合意した。

監督委員会が求めた9項目の政策改定

監督委員会は、今回の事例が公の場で発言する女性を黙らせるための組織的な嫌がらせパターンの一環であると指摘し、Metaに対して以下の具体的な対策を提言した。

• ​高リスクAIラベルの導入​: 選挙やヘイトスピーチに関わるコンテンツだけでなく、個人を標的にした中傷動画などにも「高リスクAI」ラベルの適用範囲を拡大する。
• ​アルゴリズムによる露出抑制​: 高リスクと判定されたコンテンツは、フィード表示の優先順位を引き下げて拡散を防ぐ。
• ​クリック要求画面の設置​: AI生成動画を視聴する前に警告を表示し、ユーザーがクリックして同意しないと再生されない仕組みを導入する。
• ​常習者への厳罰化​: 欺瞞的なAIコンテンツを繰り返し共有するアカウントに対してペナルティを強化する。
• ​規約定義の改定​: 私人が実際には言っていない発言や行っていない行動を捏造したディープフェイクを「望まない加工画像」の対象として明記する。

プラットフォームの自主規制とガバナンスの課題

Metaは現在、AI生成コンテンツに対して「AI Info」という小さなバナーを表示する運用にとどまっており、監督委員会が過去に行ったラベリング強化の勧告の多くを採用してこなかった。また、投稿者が自己申告しない限り自動検知が機能しにくい点や、提携パートナー以外の一般ユーザーからの通報が自動的に却下されやすい運用実態も浮き彫りとなった。

Metaは監督委員会の勧告に対して60日以内に公式な回答を行う義務がある。しかし、表現の自由の確保と中傷動画の拡散防止のバランスをどのように取るか、さらにAI技術の進化によって目視や自動検知が困難になる中でどこまで実効的なモデレーション体制を築けるかが、今後の大きな論点となる。

引用元：Engadget | The Guardian | www.oversightboard.com | petapixel.com