Windowsペイント等のAI画像に不可視GUID透かし判明

ソフトウェア開発者でセキュリティ研究者のシュシェン・リー（Xusheng Li）氏のリバースエンジニアリング調査により、Windows標準の「ペイント」や「Microsoftフォト（Windowsに標準搭載されている画像閲覧・管理・編集アプリケーション）」に備わるAI画像生成・編集機能において、サーバーから発行された GUID（世界で一意になるよう生成される128ビットの識別子（グローバル一意識別子）） が目に見えない電子透かしとして生成画像内に埋め込まれていることが明らかになりました。

ローカル生成モデルでもリモートからGUIDを受信する仕組み

リー氏の解析によると、MicrosoftペイントおよびMicrosoftフォトのAI機能の内部処理フローにおいて、以下の事実が確認されました。

• ​プロンプトのリモートモデレーション​: Copilot+ PCに搭載されたオンデバイスのローカルAIモデルを用いて画像を生成・編集する場合であっても、入力されたプロンプトは一度リモートサーバーへ送信されて安全性のモデレーションが行われます。
• GUIDの発行と埋め込み​: モデレーション完了後、サーバーからはモデレーション済みプロンプトとともに一意のGUIDが返送されます。このGUIDが、ユーザーの視覚上は認識できない電子透かしとして画像データに埋め込まれます。
• ​可視透かしとの差異​: ペイントにはAI生成であることを示すCopilotロゴを画像右下に表示する可視透かし設定が存在しますが、今回判明したGUID透かしはそれとは異なり、設定の有無にかかわらず画像内部に不可視で記録されます。
• C2PAマニフェストとの開示差分​: Microsoftの公式サポートでは、AI生成画像であることを識別可能にするため C2PAマニフェスト（コンテンツの作成元や編集履歴を証明するためのオープンな標準規格） を組み込んでいると説明されています。しかし、C2PAマニフェスト内に不可視透かしを識別するGUIDが含まれていることや、完全ローカル生成時にも外部サーバーからGUIDを取得している点については明確に説明されていないとリー氏は指摘しています。

ユーザープライバシーへの影響と未確認事項

本調査結果は、ローカル完結型AIのプライバシー期待値と運用実態に関する重要な論点を提示しています。

• ​日本の読者・利用者への影響​: Copilot+ PCを購入し、完全オフラインやプライベートなローカル環境でのAI画像生成を想定しているユーザーであっても、標準アプリを利用する限りプロンプトの外部送信とサーバー側GUIDの付与が発生している点に注意が必要です。
• ​未確認事項​: リモートサーバー側で発行・管理されているGUIDが、ユーザーのMicrosoftアカウントやIPアドレス、生成時刻とどの程度の期間・範囲で紐付けられて保存されているかについては、Microsoftからの公式な技術開示が行われていません。

AIトレーサビリティと透明性確保の課題

編集部注: ディープフェイクや著作権侵害への対策として、AI生成画像への不可視電子透かしやメタデータ付与は業界全体で標準化が進められています。しかし、ローカル処理を標榜する機能において外部サーバー通信や一意識別子の埋め込みを伴う場合、ユーザーへの事前の十分な情報開示とオプトアウト手段の明示が信頼醸成のために不可欠であるとみられます。

引用元：GIGAZINE