英国の女性議員、ディープフェイク巡りマスク氏とxAIを提訴

イギリス労働党のジェス・アサト（Jess Asato）下院議員（ローストフト選挙区選出）は、xAIの画像生成AI機能（Grok）によって自身の非同意の性的なディープフェイク画像を生成・悪用されたとして、イーロン・マスク氏とxAI社に対する法的措置（提訴）に踏み切りました。

1. Grokを用いた画像捏造の被害

アサト氏は、Grokの機能制限の緩さを指摘した直後、対抗的な嫌がらせとして、自身をビキニ姿や裸にした非同意の性的画像がGrokによって大量に作成され、ネット上に拡散される被害に遭いました。「人間性を奪われ、蹂躙されたと感じた」とインタビューで語っています。

2. イーロン・マスク氏とxAIへの責任追及

提訴の目的は、AIによるディープフェイク画像の悪用被害に苦しむすべての女性たちのために、画像生成システムの安全対策を怠り有害な出力を生成可能にしたプラットフォームの責任者および企業を処罰することにあります。

3. 法的規制と業界の安全対策

本事件は、AIコンパニオンや画像生成モデルの利用規約が形骸化しており、誰でも容易に実在の人物の性的捏造画像を生成できてしまう現状の限界を明確に示しています。法的な責任所在に関する判例としての役割も期待されています。

世界で最も裕福な人物と彼が率いるAI企業を直接訴えるというこの裁判は、非同意のAI生成ディープフェイクに対する法的な境界線を定め、プラットフォーマーに強力なコンテンツ監視を義務付ける議論を加速させる契機となっています。

引用元：The Independent