米下院、AIエージェント暴走防止法案を提出

米連邦下院のジョシュ・ゴットハイマー（Josh Gottheimer、民主党・ニュージャージー州）議員とマイク・ローラー（Mike Lawler、共和党・ニューヨーク州）議員は2026年9月9日、企業や政府機関のネットワーク内部で動作する自律型AIエージェント（自律的に判断や外部ツール操作を実行するAIシステム）の暴走を防ぐ超党派法案「Stop Rogue AI Act（暴走AI防止法案）」を提出した。組織がネットワーク内のエージェントを常時把握し、人間の手で即座に制御・停止できるようにする連邦標準の確立を目指す。

シャドーエージェントの蔓延と自律型サイバー攻撃への懸念

法案提出の背景には、企業や政府ネットワーク内で「誰が構築し、どのような権限を持つのか把握できないAIエージェント」が急増している現状がある。エージェントは従業員によって個別に導入されたり、サードパーティ製ソフトウェアや外部ベンダーの機能として組み込まれたりすることが多く、ネットワーク管理者がその存在を把握できない「死角」が生じている。

提出議員らは、近頃発生したHugging Faceにおけるセキュリティ事案や自律型サイバー攻撃を例に挙げ、人間が介在しないままAIが大規模なシステム侵害を引き起こすリスクが深刻化していると指摘。「人間が主導権を握り直すための法整備が必要だ」と強調した。

NIST主導による4大管理基準の策定

法案は、米国国立標準技術研究所（NIST）に対し、AIエージェントの発見（Discovery）、身元検証（Verification）、行動制御（Control）に関する国家標準およびベストプラクティスを策定するよう義務付けている。

管理基準	組織に求められる対応
​全エージェントの追跡​	システム上で動作するすべてのAIエージェントを可読性の高い台帳で常時インベントリ管理する
​開発者・運用者の身元検証​	ベンダーの申告のみに頼らず、暗号的に検証可能な身元証明と来歴情報を用いて作成者を特定する
​リアルタイム監視​	プロンプトインジェクションやデータ流出、承認された行動制限からの逸脱を常時検知する
​人間の最終拒否権・権限剥奪​	エージェントのアクセス権や外部操作を、管理者がいつでも即座に許可・拒否・取り消しできるようにする

また、連邦政府機関およびその請負企業に対しても、調達・配備時にこれらの安全基準を組み込むことを義務付ける。さらにサイバーセキュリティ・インフラセキュリティ庁（CISA）と連携し、既存の連邦サイバーセキュリティ基準へ統合する方針だ。本法案にはPalo Alto Networks、GoDaddy、Infobloxなどのサイバーセキュリティ大手や政策団体が支持を表明している。

日本の事業者・セキュリティ対策への影響

日本国内でも業務自動化や開発支援を目的としたAIエージェントの社内導入が急速に進んでいるが、セキュリティポリシーの策定はLLMへのプロンプト入力制限など「会話型AI」の枠組みにとどまっている企業が多い。

本法案が米国の連邦標準として制度化された場合、グローバルに事業展開する日本企業や米国政府調達に関わるITベンダーは、社内エージェントの台帳化や認証プロトコルの導入を求められる可能性がある。単なるモデルの安全性にとどまらず、「エージェントの動作権限のライフサイクル管理」を視野に入れたガバナンス構築が急務となる。

分析・展望：モデル規制から「エージェントの行動統制」への転換

Stop Rogue AI Actは、AI規制の主眼が「学習データやモデルの有害出力の規制」から「外部環境を操作するエージェントの権限管理と身元証明」へと実務的なシフトを遂げていることを象徴している。DNSなど既存のオープンなインターネット基盤を活用した相互運用可能な識別規格が重視されている点も特徴であり、今後はAIエージェントに対するアイデンティティ管理（IAM for AI）がセキュリティ市場の重要分野として確立していく見通しだ。

引用元：Josh Gottheimer