SpaceXAI提訴、Grok悪用と警察の捜査妨害を告発

米xAI（イーロン・マスク氏創設、現SpaceXAIにリブランド）に対し、同社のAI「Grok（グロック）」で児童性的虐待画像（CSAM）が大量に生成された件を巡り、被害を受けた少女たちとその親による集団訴訟が提起されました。訴状では、Grokの安全性フィルタの重大な欠陥だけでなく、同社が捜査当局への個人情報開示を不当に阻むなどの「組織的妨害」を行っていたことが非難されています。

1. 7,000枚の虐待画像と安全システムの不具合

訴訟のきっかけとなった凄惨な事件では、ある男性が11歳の義理の娘の写真（実写）をGrokに入力し、約7,000枚に及ぶ児童虐待や性的ディープフェイク画像を生成していました。長期間にわたり何百回もの生成が行われたものの、Grokの安全機能はこれらを検知できず、最終的に特定の極端なプロンプト（命令文）が入力された段階で初めて自動通報が行われました。容疑者の男性は逮捕後、保釈中に自殺しています。

2. 捜査当局に対する非協力・データ提供拒否の疑い

被害者側は、SpaceXAIが容疑者の特定に不可欠なIPアドレス情報などの開示要求に対し、あらゆる場面で非協力な態度を取り、捜査を妨害したと主張しています。さらに、全米行方不明・被搾取児童センター（NCMEC）に寄せられた同社からの通報のうち、約9割は個人情報などの重要データが抜けており、捜査に役立たないものであったと告発されています。

Grokがリリースされた当初から、安全ガードレールが極めて緩く、有名人や一般人の非同意のわいせつディープフェイク画像が大量生成されている事態は懸念されていました。今回の訴訟は、単に「AIでどのような画像が生成できるか」という技術的安全性にとどまらず、有害行為が発生した際の「開発企業の司法捜査への協力責任」を厳しく問うものであり、今後の法的規制や業界の安全基準作りに強い影響を及ぼすことになります。