AIによる「自律型戦争」はすでに始まっている：Anthropicと国防総省の対立から見えた自律型兵器のリスク

生成AIの技術的進歩に伴い、軍事分野でのAI活用や自律型致死兵器（キラーロボット）の実現が現実味を帯びています。AI企業のAnthropicと米国防総省との間で生じた方針の対立は、この問題を広く世間の目に触れさせる契機となりました。兵器における「人間の介入」をどこまで求めるかについて、AI業界と軍事機関の間で議論が白熱しています。

1. 致死性自律兵器の議論の始まり

スイスのジュネーブにある国連本部では年に2回、致死性自律システムに焦点を当てた国際フォーラム「The Convention on Certain Conventional Weapons（CCWC：特定通常兵器使用禁止制限条約）」が開催されています。カナダの平和研究団体Project Ploughsharesの上級研究員ブランカ・マリヤン氏は2017年11月のCCWCで、殺人ロボットによる戦争が行われる可能性について語りました。当時は仮説として受け止められていましたが、生成AIが普及した現代では致死性自律兵器の登場が身近で現実的なものになりつつあるとThe Vergeは指摘しています。

2. Anthropicと国防総省の対立

Anthropicは2025年7月に国家安全保障のために国防総省と最大2億ドル（約320億円）の契約を結びましたが、以下の用途へのAI利用を拒否しています。

• アメリカ国内での大規模監視へのAI利用
• 人間の介入なしに標的を識別・追跡・殺害できる兵器へのAI利用

この対立を受けて国防総省は交渉戦術として2026年3月にAnthropicをサプライチェーンリスクに指定し、ドナルド・トランプ大統領はすべての政府機関に対してAnthropicのClaudeの使用禁止を宣言しました。記事作成時点でもAnthropicと国防総省の法廷闘争は継続しています。

3. 完全自律型兵器の定義と規制の現状

致死性自律兵器の使用を規定する政策のひとつ「国防総省指令3000.09」（2012年策定）は、致死性自律兵器のようなシステムを「一度起動されると、オペレーターによるさらなる介入なしに標的を選択して攻撃できるもの」と定義しています。同指令では、人間が武力行使に関して「適切なレベル」の判断を下せるように設計すべきと規定されています。

しかし近接防空システムのファランクスのように、飛来するミサイル攻撃からミリ秒単位で応答する必要がある自動兵器システムは、すでにこの指令の規定を満たすことができていない可能性がThe Vergeにより指摘されています。

4. AI企業の対応の違い

Anthropicと国防総省の争いが表面化した後、競合他社は軍事取引を可能にするために運営ガイドラインを緩和したり、ミッションステートメントを微調整したりしています。OpenAIはAnthropicが拒否した条件に対してすぐさま同意しました。なお、Anthropicもその後一部の安全対策の制限を撤回しています。

5. Anthropicの立場

Anthropicのダリオ・アモデイCEOは、Claudeが完全自律型兵器をサポートする準備が整っていないと考えているため反対していると説明しており、概念的・倫理的に完全自律型兵器に反対しているわけではありません。ブログの中で「完全自律型兵器は我が国の防衛にとって極めて重要となる可能性がある」「これらのシステムの信頼性を向上させるための研究開発において国防総省と直接協力する」と述べています。なお、AnthropicがサイバーセキュリティAIの「Mythos」を発表したことで、両者の関係はいくらか改善したと見られています。

Anthropicと国防総省の対立は、AI業界が軍事・安全保障分野にどのように関与すべきかという根本的な問いを社会に突き付けました。カリフォルニア大学バークレー校のアンドリュー・レディ氏は、この争いが「完全自律型兵器」という言葉を世間一般に広く知らしめたと指摘しています。「我々はまだ越えていないふりをしていますが、実際にはもう越えてはいけない一線を越えてしまっているんです」というレディ氏の発言は、議論の核心を突いています。

Project MavenへのGoogle参加（2017年末）やウクライナ侵攻でのドローン活用が示すように、AIと戦争の関係はすでに現実の問題となっています。致死性自律兵器に関する国際条約や統一規制が存在しない現状では、各AI企業・各国政府が個別に判断を下す状況が続くことになります。

Anthropicのケースが示唆するのは、AI企業が単なる技術提供者にとどまらず、兵器利用の倫理的ガイドラインの策定者としての役割を担わされる可能性です。一方で、競合他社が軍事需要を取り込む形で動いており、倫理的立場を維持することのビジネス上の難しさも浮き彫りになっています。AI自律型兵器の開発競争が加速する中、人間の介入をどのレベルで担保するかは、国際社会が早急に合意形成を進めるべき課題として残されています。