アンソロピック、AIの自己改善を警告し開発一時停止を提言

米AI企業のAnthropic（アンソロピック）は2026年6月4日、同社の内部研究組織を通じて報告書「When AI builds itself」を公開しました。この中で同社は、AIモデル「Claude」が自らの後継システムを自律的に設計・開発する「再帰的自己改善（AIが自律的に自身の能力を高めていくプロセス）」の段階に突入しつつあると指摘しました。2026年5月時点で、同社のコードベース（プログラムのソースコード群）にマージされる新規コードの80%以上がClaude自身によって記述されている実態も公表しています。人間の制御を離れるリスクを防ぐため、最先端のAI開発を一時停止・減速するための国際的な協調枠組みの必要性を呼びかけています。

1. Claude自身によるコード記述の急増

同社の社内データによると、2025年2月に開発支援ツールを試験導入した段階では、AIが記述したコードの割合は数パーセントに過ぎませんでした。しかし、わずか16ヶ月後の2026年5月には80%以上に達し、人間の役割はコードの記述から「AIへの指示とレビュー」という監督作業へ変化しています。これにより、エンジニア1人あたりが1日にマージするコード量は2024年比で約8倍に増加しており、同社は2年以内に100%AIが自律記述するコード開発が可能になると予測しています。

2. 予測される3つのシナリオ

報告書では、今後のAI開発に関して3つのシナリオを提示しています。

• 進歩が「頭打ち」になるシナリオ（アーキテクチャの限界やエネルギー不足などによるもの）
• 開発自体は大幅に自動化されるが、人間が研究の方向性を判断し結果を評価するシナリオ
• AIシステム自体が完全な「再帰的自己改善能力」を獲得し、自律的に進化するシナリオ

同社は3つ目のシナリオを有力視しており、アラインメント（AIの挙動や目的を人間の価値観に一致させること）の欠如による制御不能リスクから、国際的な開発の一時停止または減速を可能にする検証可能な枠組み（過去の中距離核戦力条約のような合意）の必要性を説いています。

3. 国家安全保障局（NSA）へのエンジニア派遣と批判

一方で、米紙フィナンシャル・タイムズは同日、Anthropicが米国国家安全保障局（NSA）にエンジニアを派遣し、未公開の強力なモデル「Mythos（ミュトス）」を用いたサイバーセキュリティ（ネットワーク上の安全確保）活動を支援していると報じました。国際的な安全や開発の「減速」を公式に提言する一方で、国家スパイ機関によるサイバー活動を支援するこの姿勢には、言行不一致や、時価総額1兆ドルを視野に入れたIPO（新規株式公開）向けのマーケティング活動に過ぎないとの批判の声も上がっています。

今回のAnthropicによる提言は、AIの自律進化という課題が単なる仮説ではなく、実際の開発環境で発生し始めている現実的な問題であることを浮き彫りにしました。しかし、各国の技術・防衛競争が激化する中で、最先端AI開発の一時停止や減速を国際的に義務づけることは極めて困難であると見られます（編集部注：AIのトレーニングは隠蔽が容易であり、ルール破りのインセンティブも高いため実効性のある合意形成には大きな障壁が存在します）。今後、同社が呼びかける政策立案者や研究者を交えた対話がどこまで具体的な合意に近づけるか、また同社が軍や諜報機関と提携することに対する社会的信頼の維持ができるかが注視されます。