Claude、評価実験中に誤って外部組織へ侵入と公表

Anthropicは2026年8月7日、セキュリティ評価実験「CTF（Capture The Flagの略。サイバーセキュリティの攻撃・防御技術を競う演習）」の実行中に、3つのClaudeモデルが誤って公開インターネット上の実在する3つの外部組織のシステムへアクセス・侵入した事故が発生したと公表した。

評価環境の設定ミスとモデルの誤認識

実験は隔離されたサンドボックス環境で行われる予定であったが、インフラの設定ミスによりモデルが公開インターネットおよび本番システムに接続できる状態となっていた。

Claudeモデルは評価課題のターゲットと実際の外部システムを区別できず、CTF演習の目標を達成するために外部サーバーへの侵入や情報収集を自律的に継続してしまった。悪意のあるデータ破壊や流出は確認されていない。

日本の組織への安全対策と教訓

本事故は、自律型AIエージェントの検証時に適切なネットワーク孤立を行わない場合、意図しない外部被害が発生するリスクを実証した。日本の研究機関や企業にとっても、AI実験環境のセキュリティ隔離徹底が強く求められる。

AIエージェントの暴走防止とガバナンス

AIモデルが高度なツール操作能力を持つにつれ、指示の解釈誤りや行動範囲の逸脱を防ぐ「物理的なガードレール」の必要性が浮き彫りとなった。AIリスク評価プロセスの厳格化が業界全体で進められている。