Grokの画像生成巡るCSAM集団訴訟が米連邦地裁で拡大

SpaceXAIが提供するAI対話・画像生成システム「Grok（SpaceXAIが開発するフロンティアAIモデル群および対話型サービス）」を巡り、未成年のCSAM（Child Sexual Abuse Material（児童性的虐待コンテンツ）の略称）生成を可能にしたとする米連邦地裁での集団訴訟が拡大しています。新たに被害を訴える原告が加わったほか、画像生成モデルStable Diffusionを手掛けるStability AIが共同被告として追加されました。

集団訴訟の拡大とStability AIの共同被告追加

本訴訟は当初、2026年3月にテネシー州の10代女性3人によってカリフォルニア州北部地区連邦地方裁判所に提起されたものです。

• ​原告の追加（計5名へ拡大）​: 修正訴状により、新たに11歳当時の写真1枚から7,000枚超の性的偽画像を生成されたと訴える「Jane Doe 4」や、中学2年の卒業アルバム写真を悪用されたと主張する「Jane Doe 5」が原告に加わりました。
• ​共同被告にStability AIを指定​: 訴状では、Stability AIが安全対策を後退させた画像生成モデルを提供したことで、セーフガードを回避した加工アプリや悪用エコシステムを助長したと主張されています。
• NCMEC報告と対応への批判​: 米国法に基づき全米行方不明・被搾取児童センター（NCMEC）への通報義務がある中、原告側は企業側の法執行機関に対する情報提供が不十分であったと指摘しています。

争点となっている製品責任と双方の主張

本件では、AIツールの提供企業と悪用した利用者との間で責任の所在が正反対から争われています。

• ​原告側の主張​: 業界標準のセーフガードを実装せず、実在人物の脱衣化や性的画像生成が容易な状態で製品を設計・販売したこと自体に「製品設計上の欠陥」と「過失」がある。
• SpaceXAI側の立場​: 悪用は利用規約違反であり、セーフガードを不正に回避した悪質ユーザー自身に責任があるとして、悪用したユーザーを相手取った提訴を実施。また、アカウント停止やNCMECへの通報実績を挙げ、安全対策を講じていると主張。

独自価値要素：国際的な法規制の動向と各国の執行状況

生成AIによる同意のない性的画像（NCII）やnudification（脱衣化）技術に対しては、世界各国で法的規制の制定と執行が急速に進んでいます。

地域・国	法令・枠組み	施行・適用状況	主な規制内容・罰則
​米国（連邦）​	TAKE IT DOWN Act	2026年5月発効	プラットフォームに申請から48時間以内の削除義務付け
​米ミネソタ州​	nudification技術禁止法	2026年8月1日施行	同意なきヌード生成・ツールの宣伝禁止（1違反あたり最低50万ドル）
​欧州連合（EU）​	AI Act	2026年12月期限	CSAM生成AI・同意なき性的描写AIの上市および展開を全面禁止
​英国​	Data (Use and Access) Act	2026年2月施行	同意なき偽の性的画像の作成・依頼を犯罪化
​日本​	既存刑法・児童ポルノ禁止法等	適用・法整備検討中	政府からプラットフォームへの対策要請、実在児童画像への既存法適用

日本における実態と法整備の現状

日本国内においても、卒業アルバムや学校端末の写真が悪用される被害が報告されており、警察庁の統計では中高生が被害に遭う事例が確認されています。日本政府（総務省およびAI戦略担当大臣）はプラットフォーム側への対策要請を行っており、既存の児童ポルノ禁止法や名誉毀損罪の適用に加え、生成AI特有のリスクに対応した法整備の議論が続いています。

分析・展望：生成AIモデルの安全設計と提供責任

今回の訴訟拡大は、生成AI事業者が負うべきセーフガード設計の法的責任範囲を問う試金石となります。これまで「プラットフォーム免責」や「利用者の規約違反」として扱われがちだった悪用問題に対し、モデルの基礎設計段階における安全対策義務が司法判断としてどう下されるか、業界全体への影響が注視されます。

引用元：Chase DiBenedetto | AI革命