Meta、子どもの性的搾取対策に新AIやレッドチームを導入

Metaは2026年10月7日、FacebookやInstagramなどのプラットフォーム上で子どもの性的搾取（CSE: Child Sexual Exploitation）に対抗するため、広告審査プロセスの大幅な強化と新たなAIツールの配備を発表しました。一見無害を装いながらプラットフォーム外の違法コンテンツへ誘導する巧妙な悪質広告を遮断するため、専用のLLM（大規模言語モデル）や自社の防御壁を検証するレッドチームAIエージェントを実戦配備しています。

広告審査プロセスの刷新と新AI技術の配備

悪質な投稿者は検知を逃れるため手口を巧妙化させており、広告枠を利用してプラットフォーム外部の違法素材へ covert（隠密裏）に誘導する「signposting」と呼ばれる手法が確認されています。単体の広告画像や文面だけでは違反と見分けがつかないケースが増加していることから、Metaは以下の新技術を導入しました。

• ​誘導型広告を検出する新LLM: 一見無害に見える広告から外部の違法コンテンツへ誘導する兆候を検出する専用モデルを稼働。
• ​広告の遷移先解析​: 広告の表示面だけでなく、リンク先の遷移先ウェブサイトの内容まで踏み込んで解析し、違反リンクの遮断とアカウント停止を実施。
• ​追加のAIスキャン​: 従来の検知システムでは捕捉できなかったCSEコンテンツを洗い出すための定期巡回AIを配備。
• ​レッドチームAIエージェント​: 自社の防御システムを能動的に攻撃・探索し、悪質業者が悪用する前にシステムの弱点を発見するAIエージェント。
• ​アカウント再作成の検知強化​: 停止処分を受けた悪質業者が別アカウントで再参入する動きを遮断する仕組みを強化。

これらに加え、同社が2011年から活用しているPhotoDNAやビデオ照合技術、画像ハッシュ共有プログラム「Lantern」を通じた業界連携、さらに不審なメタデータと行動パターンを検出する行動シグナル分析も継続運用されています。

2026年上半期の対処実績と国際連携

Metaが公表したデータによると、2026年1月から6月までの半年間に全世界で対処した子どもの性的搾取コンテンツは​3,320万件​​に上ります。このうち​97%以上​​はユーザーからの通報を受ける前に、自動検知システムによってプロアクティブに対処されました。また、インド市場においては同期間に530万件に対処し、98%以上を事前検知しています。

さらに、法執行機関との連携も強化されています。全米行方不明・被搾取児童センター（NCMEC: National Center for Missing & Exploited Children）を通じた報告に加え、2026年9月にはインドの国家サイバー犯罪通報ポータル（I4C運営）へ児童保護案件を直接通報する体制を整えたことを明らかにしています。

独自分析：巧妙化する外部誘導への対策と未確認事項

対策項目	従来の手法	今回導入された新AI対策
検知対象	広告文面・静止画のハッシュ照合（PhotoDNA等）	文脈理解LLMによる外部誘導（signposting）の検出
リンク先検証	静的ブラックリストの照合	遷移先サイトの実態解析とアカウント紐付け遮断
防御体制	ルール違反報告後のリアクティブな改善	レッドチームAIエージェントによるプロアクティブな弱点探索
再犯防止	アカウント単位の凍結	ネットワーク単位の行動分析と再作成防止

未確認事項と運用の課題

今回の発表では、レッドチームAIエージェントが自律的に脆弱性を発見する頻度や、signposting広告の誤検知（フォールスポジティブ）率についての具体的な数値は開示されていません。文脈依存の判定を強めることで、正規の一般広告主が誤って審査落ちするリスクをどこまで低減できているかは、今後の運用状況を見極める必要があります。

分析と展望：受動的遮断から「AI同士の対抗戦」へのシフト

オンライン上の児童搾取対策は、既知の画像ハッシュを弾く受動的なフィルタリングから、文脈を読み解くLLMや自社防御を検証するエージェントを活用した動的な対抗措置へとフェーズが移行しています。悪質業者が生成AIを用いて検知回避を試みる中、防御側もレッドチームAIを活用して先手を打つ取り組みは、ソーシャルプラットフォーム全体のセキュリティ水準を引き上げる重要な一歩といえます。

引用元：Meta Newsroom