Meta AI、知人投稿から未公開の個人情報を推測提示し問題修正

投稿していない子どもの個人情報がAIによって暴かれる事態に

米国のSNSユーザーがInstagramに投稿した動画を契機に、MetaのAIアシスタントMeta AI（Metaの各種SNSやアプリに統合された生成AIアシスタント）が、本人が過去に投稿したことのない子どもの氏名や生年月日といった個人情報を正確に推測して提示していたことが判明した。知人や親戚の過去の投稿、ウェブ上の公開情報をAIが横断的に探索・統合した結果とみられる。事態を重く見たユーザーの告発動画は大きな反響を呼び、Metaはプロンプト提案機能の不具合として修正を表明したものの、SNS上のデータ統合によるプライバシー侵害への警戒感が強まっている。

発覚の経緯とMeta AIによる推測の実態

問題を発見したのは、米ユタ州在住のケイリー・ロビンズ（Kaylee Robbins）氏である。同氏は幼い娘が歌う動画をInstagramに投稿した。動画に娘の顔は映っていたものの、氏名や年齢は記載していなかった。

しかし、ロビンズ氏がFacebook上でその動画を確認した際、Meta AIが「同乗している子どもは誰ですか？」という質問プロンプトを提案してきた。この提案をタップしたところ、Meta AIはロビンズ氏自身がSNS上に投稿したことのない娘の氏名や正確な生年月日を提示したという。

調査によると、Meta AIはロビンズ氏の過去の投稿だけでなく、同氏の祖父母を含む親族や知人の投稿をさかのぼり、断片的な情報を組み合わせて個人情報を特定していた。さらに、動画に登場していないもう1人の娘の個人情報や通っている学年、お気に入りの本や訪れたことのある場所、さらにはロビンズ氏自身の職歴まで提示される事態となった。ロビンズ氏がこの体験を訴えた動画は、34万件以上の「いいね」や1万7,000件以上のコメントを集め、大きな議論を呼んだ。

テクノロジーメディアFuturismの取材に対し、MetaはMeta AIがユーザー自身のコンテンツに加えてウェブ上の公開情報も検索可能である点を認めた上で、「提示される情報はユーザーが既にアクセスできる情報に基づいているが、このような質問を投げかけるべきではなかった」として、既に問題を修正したと回答した。

セーフガードの不透明さと公開情報統合リスク

今回の事案で浮き彫りになったのは、AIによる「断片的な公開情報の統合能力」がもたらすプライバシーリスクと、プラットフォーム側のセーフガードの不透明さである。

観点	今回確認された挙動	残された課題・未確認事項
​情報源の探索範囲​	ユーザー本人の過去投稿に加え、親戚・知人の投稿やウェブ公開情報を参照	どの範囲のフレンド・公開投稿までが推論コンテキストに含まれるか非公開
​未成年・児童の保護​	投稿にタグ付けされていない児童の氏名・生年月日・学年まで特定	児童の個人情報に対する特別なマスキングや遮断フィルターの有無
Meta側の対応​	不適切なプロンプト提案の修正を完了したと表明	どのようなセーフガードが導入され、なぜ突破されたのか技術的詳細は未公表

ロビンズ氏はMetaから問題修正の連絡を受けたものの、「具体的に何が修正され、どのような保護施策が講じられているのか不明である」と指摘している。特に、親族が善意で過去に投稿した家族写真や言及から、AIが自動的に家系や子どもの身元を紐付けてプロンプト化してしまう挙動に対し、ユーザー側で防ぐ手段が極めて限られている点が深刻な懸念材料となっている。

パーソナライズAIとプライバシー保護の境界線

SNSに統合された生成AIは、ユーザーの文脈を深く理解することで利便性を高めるパーソナライズを志向している。しかし、本件はAIの探索能力が「ユーザーが意図的に非公開にしていた情報」や「本人が忘れていた過去の親族の投稿」まで掘り起こし、予期せぬプライバシー侵害を引き起こすリスクを実証した。

今後は、単なる個人情報漏洩の防止だけでなく、AIが複数の断片的な公開データから機微な個人情報を推論・提示することを制限する「推論プライバシー」のルール策定や、未成年者に関する情報の自動抽出を遮断する厳格なセーフガードの開示がMetaをはじめとするプラットフォーマーに求められることになるだろう。

引用元：GIGAZINE