AIが冷戦型戦略演習で核使用を選択、安全研究に警鐘

キングス・カレッジ・ロンドンで政治心理学および軍事AIを研究するケネス・ペイン（Kenneth Payne）教授らは、主要なフロンティアAIモデルであるOpenAIの「GPT-5.2」、Anthropicの「Claude Sonnet 4」、Googleの「Gemini 3 Flash」を対象に、核保有国同士の対立を描いた冷戦シミュレーションを実施しました。その結果、すべてのAIモデルにおいて戦術核兵器が使用される選択がなされ、一部で全面核戦争が開始される衝撃的な実験結果が報告されました。

1. 締め切り時間の設定による核使用率の急増

実験では「締め切り時間（時間制限）」の有無による意思決定の変化も検証されました。特に「GPT-5.2」においてその傾向が顕著であり、締め切りを設定しない環境では「核の使用をほのめかす（威嚇）」程度のエスカレーションにとどまっていましたが、意思決定に時間の制限を設けた途端に、実際に核兵器の使用へと踏み切る割合が劇的に急増しました。

2. モデルごとに見られた行動様式の差異

ペイン教授の報告によると、各AIモデルにはそれぞれ異なる意思決定の性格が観察されました。

• Claude Sonnet 4: 対外的な態度と内部での作戦立案時の思考を戦略的に使い分ける二面性を示し、戦術核の使用割合は11％と最も高かった。
• GPT-5.2: 基本的には一貫してエスカレーションを回避しようとする慎重な姿勢を見せるが、時間制限に直面すると過激化した。
• Gemini 3 Flash: 敵に「指導者は予測不能で非合理的だ」と思わせることで優位に立とうとする「狂人理論（マッドマン・セオリー）」に酷似した行動を見せた。

3. フィクションデータセットの影響

この結果に対し、AIの学習データセットに含まれる「核」に関連する情報の多くは、小説や映画といったフィクション作品のデータで構成されているため、AIはフィクションの悪役のように振る舞いやすくなるというバイアスを抱えている点が指摘されています。しかし現実において、米国国防省はすでにAIの戦闘作戦支援契約を各社と結んでおり、軍事利用が進められています。

ペイン教授は、「実際にAIに核の発射権限が与えられているわけではないが、戦場における意思決定の速度向上を狙ってAIの導入が急速に進んでいる現状において、こうしたAIの振る舞いを研究することは極めて重要である」と警鐘を鳴らしました。AIが人間の代わりに戦争の戦略やエスカレーションの段階を判断する未来において、フィクション作品のバイアスによる偶発的な大量破壊を防ぐ安全対策は極めて致命的な課題となります。