SpacexAIのGrok、CSAM学習データ疑惑で集団訴訟

イーロン・マスク氏が率いる米SpacexAI（旧xAI）に対し、対話型AI「Grok」の訓練データに実在人物の児童性的虐待素材（CSAM（Child Sexual Abuse Material: 児童性的虐待記録物））が含まれていたとして、全米規模の集団訴訟（クラスアクション）が新たに提起されました。

訓練データ除外不備とディープフェイク生成の責任追及

訴状によると、原告の被害女性（Jane Doe）は、過去に自身が被害に遭った虐待画像がGrokの学習データセットに含まれており、そのデータに基づいて新たな性的画像がAIによって生成されたと主張しています。

原告側は、SpacexAIが以下のような基本的安全義務を怠ったと指摘しています。

• ​不適切コンテンツの遮断不備​: 露骨な性的コンテンツの生成を効果的にブロックできなかった点。
• ​非同意ディープフェイクの防止不備​: 実在人物を模した性的ディープフェイクの生成を放置した点。
• ​データセットのフィルタリング不備​: 全米行方不明・被搾取児童センター（NCMEC）が提供するハッシュリストなどを活用した事前検知・除外を適切に実施しなかった点。

原告側代理人のSarah London弁護士は「SpacexAIは、原告や他の被害者が受けた過酷な虐待画像を把握しながら学習モデルに使用した責任を負わなければならない」との声明を発表しました。

相次ぐGrokを巡る法的リスクと国際的影響

Grokを巡っては、人物写真を加工して服を脱がせる「nudify」機能やディープフェイク悪用に関連し、2026年1月や3月にも複数の集団訴訟が提起されています。一部の訴訟では画像生成モデルStable Diffusionを提供するStability AIも共同被告に含まれており、各国規制当局からの一時アクセス遮断措置を受けるなど波紋が広がっていました。

今後の展望と課題

生成AIモデルにおける学習データの選別責任と、出力される児童虐待・性的被害コンテンツに対する法的責任の所在は、AI開発企業全体にとって最も重大なコンプライアンス課題となっています。本訴訟の審理を通じて、AIモデルの学習元データに関する透明性と事前チェック義務の基準が問われることになります。

引用元：Chase DiBenedetto | 赢政天下 | The Guardian