AI学習データに含まれるか判定するツールが公開された

元OpenAIの従業員であるJoey Flynn氏とThomas Dimson氏によって、ユーザーの氏名が各種AIモデルの事前学習データに含まれているかどうか、またどの程度認識されているかを検証できるオンラインツール「Are You in the Weights?」が開発・公開されました。このツールは、Web検索や外部情報源に依存せず、モデルの純粋な「重み」のみから情報を引き出せるかを測定し、その結果を数値スコアとして視覚化します。

1. 各種フロンティアモデルを並列検証

このツールは、GPT-5.5、Claude Opus 4.8、Gemini、Grok、およびLlamaシリーズを含む、商用およびオープンウェイトの多様なモデルを同時にクエリします。入力された名前に対する各モデルの認識度合いを総合し、最高996点までの「強度スコア」を算出します。最高値の996点はテイラー・スウィフトといった歴史的・世界的な著名人にのみ割り当てられる基準となっています。

2. 小規模モデルにおける高いハードル

モデルのサイズが小さくなるほど知識の圧縮が厳しくなるため、小規模モデルのデータ内に名前が残っていることの難易度は極めて高くなります。例えば、MetaのLlama 1Bのような非常に小さなオープンモデルから正確に認識される人物は、学習データ内で圧倒的な出現頻度と重要性を持っていたことを意味し、大規模なフロンティアモデルで認識されるよりもさらに高い関連性を示していると言えます。

情報検索の手段が従来のWeb検索エンジンからAIモデルによる要約へと移行しつつある現在、AIモデルの学習データ内に自分がどのように記憶されているかは、専門家やクリエイター、創業者などの「AIを介した発見可能性」に直接影響を及ぼします。このツールは、どの情報がAIのブラックボックスに焼き付けられたのかを可視化する初の試みとして、プライバシーや知財の議論に新たな視点を提供しています。