カナダ、Grokの画像生成を違法認定

カナダ個人情報保護監理官事務所（OPC）は、X Corp.およびxAI LLCに対する調査を実施し、両社が提供するAIチャットボット「Grok」の画像生成・編集機能を通じて同意のない性的ディープフェイク画像が大量に作成・拡散された事象について、カナダの「個人情報保護及び電子文書法（PIPEDA）」に違反しているとする決定を公表しました。OPCは是正勧告を行い、現時点で「未解決」のステータスとして監視を継続する方針を示しました。

1. 「Edit Image」機能の導入と迂回プロンプト

2025年12月末、Grokの機能アップデートによってX上の他ユーザーの画像を編集できる「Edit Image」が実装されました。悪意あるユーザーがGrokの安全フィルターを迂回し、実在する人物の性的ディープフェイク画像を大量に生成しました。xAIは謝罪を行いましたが、技術的な遮断までに10日以上を要したため不十分と判断されました。

2. AI合成画像も個人情報と判断

OPCは、AIによって合成されたディープフェイク画像であっても、実在する特定可能な個人の肖像である以上、PIPEDAにおける個人情報に該当すると判断しました。両社は「ユーザー個人による作成であり責任を負わない」と主張しましたが、OPCは商業活動としてツールを提供する両社に説明責任があると却下しました。

3. OPCによる厳しい是正勧告

OPCは両社に対し、十分なセーフガードが実証されるまで「Grok Imagine」機能を停止することや、プライバシー影響評価の導入、第三者機関による年次監査などを勧告しました。両社は対策を行ったと回答していますが、OPCは現時点で違反状態は解消されていないと判断しています。

Metaによる「NameTag」同様、Grokを巡るプライバシー問題も大きな注目を集めています。企業が新技術を搭載し発覚したら撤退・是正するというアプローチに対して批判が集まっており、スマートグラスや生成AIなどに対する規制の議論がさらに加速する可能性があります。