AIの思考回路「J空間」を可視化する「Jレンズ」のデモが公開

AI（人工知能）が特定の出力を決定する際の内部プロセスを可視化する試みとして、米アンソロピック（Anthropic）が提唱する「J空間（J-space）」を観察するためのWebデモアプリ「Jレンズ（J-lens）」がNeuronpediaで公開されました。

1. J空間（J-space）の概念

人間の脳において意識的な思考の処理が行われる際、アクセス可能な活動パターンが現れます。同様に大規模言語モデル（LLM）でも、他の内部処理と比較して特別な役割を果たす少数のニューラルパターン（情報の処理単位）の集合が存在することが判明し、これを「J空間」と呼んでいます。

2. デモアプリ「Jレンズ」の仕組み

Neuronpedia（AIモデルの内部構造を解析・共有するプラットフォーム）上で公開されたJレンズのデモアプリでは、ユーザーがチャットでAI（Qwen3.6-27BやGemma 3-12Bなどを選択可能）と対話する際、回答の決定プロセスで「J空間」でどの単語やフレーズが活性化（活発に処理）されているかをリアルタイムで確認できます。

例えば「スマートフォンの選び方」と尋ねると、AIは「smartphone」や「iPhone」「affordable（手頃な）」といった関連語をJ空間内で最も活発に処理しながら次の単語を選んでいる様子が見て取れます。

このJ空間は、開発者が意図的に設計したものではなく、AIが学習する過程で自然発生的に形成されたものです。アンソロピックは、これがAIに人間のような感情や実際の「思考」があることを意味するわけではないと説明しつつも、ブラックボックス（内部動作が不透明な状態）化しがちなAIモデルの動作を読み解く重要な手がかりになると期待されています。

引用元：GIGAZINE | gigazine.net