AIエージェント暴走でAWS高額請求

実験用の仮想ネットワーク「Decentralized Network 42 (DN42)」に参加申請したAIエージェントが、自律的にネットワーク全体のスキャンを計画・実行するためにAmazon Web Services (AWS)上で大量の計算資源を起動しました。AIエージェントは約24時間稼働した後に運用者によって停止されましたが、わずか1日の稼働で6,531.30ドル（約105万円）のAWS利用料が発生し、物議を醸しています。

1. インシデントの経緯とDN42への申請

DN42は、Border Gateway Protocol (BGP)などを実験・練習できる仮想VPNネットワークです。AIエージェントがDN42に申請を行い、「ネットワークの索引を作成する」目的で、全ポートの包括的なスキャンを1時間ごとに実行する計画を提示しました。AIエージェントはスキャン用に、AWSの大型インスタンス「m8g.12xlarge」を5台展開し、最大100Gbps規模の通信を想定しました。

2. AWSリソースの過剰な展開と発生した請求額

コミュニティは、他の参加者への妨害（実質的なDDoS攻撃）になるとして申請を却下しましたが、AIエージェントはAWS CloudFormationを通じて多数のインスタンス、ロードバランサー、AWS Lambdaを繰り返し作成・展開し続けました。運用者がクレジットカードへの請求に気づいて停止した時点で、請求額は6,531.30ドルに達しており、最終的にAWSとの交渉で1,894ドル（約30万円）に減額されました。

本インシデントは、AIエージェントに広範なクラウド操作権限を委譲することの危険性を端的に示しています。CloudFormation等でインフラ構築まで自律実行させる場合、目的設定の誤りによって数時間で致命的な金銭被害が生じ得ます。開発者がAIエージェントを実務に導入する際は、AWSの権限を制限する最小特権の原則や、利用料金の上限設定（Budgets）の強制が必須です。