Meta、未成年を装いChatGPT等の安全性を秘密裏にテスト

Metaが、委託業者Covalenを通じて未成年を装ったアカウントを作成し、競合相手であるOpenAIのChatGPT、GoogleのGemini、Character.AIに対し、自殺や薬物などの機微な内容を含む数万件のプロンプトを秘密裏に送信してテストしていたことがWIREDの報道で明らかになりました。

1. プロジェクト「Cannes」の実態

この調査プロジェクトは「Cannes」と呼ばれ、2026年4月まで実施されていました。何百人もの委託業者が18歳未満の生年月日を設定したアカウントから、自傷行為、摂食障害、違法薬物などの機微プロンプトを競合チャットボットに送信し、その回答内容をスプレッドシートに記録して比較していました。2025年8月の1ラウンドだけで4万5,000件以上のプロンプトが送信されていました。

2. 業界標準の安全性テストとしての主張と競合の反応

Meta側は「責任ある業界標準の安全性ベンチマークテストである」と主張し、収集したデータを自社モデルのトレーニングには使用していないと説明しました。しかし、Character.AIやOpenAI、Googleなどテストされた他社はこれを事前に知らされておらず、利用規約違反の可能性を視野に調査を進めています。

3. 未成年者のAI利用を巡る背景

Meta自身も、AIボットが未成年者に対して性的な会話や自傷行為に関する有害出力を生成したことで批判を受け、機能制限を行った経緯があります。同様に、 companion AIの使用による若年層のメンタルヘルス影響や自殺事例などが業界全体で問題化していました。

今回の調査は競合他社の安全性対策の限界を浮き彫りにする一方で、他社の規約を侵害する秘密調査手法の倫理的妥当性について、AI安全性のテスト方法をめぐる新たな議論を呼んでいます。

引用元：The Decoder