Anthropic、AIエージェント向けゼロトラスト指針公開

Anthropicは2026年5月27日（現地時間）、企業における自律型AIエージェントの安全な導入と運用に向けたセキュリティフレームワーク「Zero Trust for AI Agents」を公開しました。AIモデルの進化に伴い、システム上の脆弱性の発見から悪用までの期間が短縮されている現状を受け、AIエージェント自身やそれがアクセスする企業システム全体を保護するための包括的なセキュリティ指針を提示しています。本フレームワークは「侵害発生を前提とする」ゼロトラスト（すべての通信やアクセスを信頼せず検証するセキュリティモデル）を基盤とし、詳細な脅威分析や8段階にわたる導入手順を体系化しています。

1. エージェント型システム特有のセキュリティ脅威

従来のアクセス制御だけでは、正規権限を持つAIエージェントの不適切な動作を防ぐことが困難です。本フレームワークでは、以下の主要な脅威を整理・分析しています。

• ​プロンプトインジェクション（指示文の入力によりAIを意図しない挙動に誘導する攻撃手法）​: 利用者入力を通じてシステム指示を上書きする直接型に加え、Webページや電子メールなどの外部データに悪意ある命令が埋め込まれる「間接型」の危険性を指摘しています。後者では利用者が気づかないまま処理が進行するリスクがあります。
• ​ツールの悪用と汚染​: 攻撃者がツール定義やメタデータを改変する「ツール汚染」のほか、正規のツールを悪意あるものに置き換える手法や、複数のツールを組み合わせて機密情報を外部送信する手法、高コストAPIを繰り返し呼び出す「リソース消費攻撃」などに警鐘を鳴らしています。
• ​権限管理とコンテキスト（AIが文脈や記憶として参照する一時情報）汚染​: 高権限エージェントが作業委譲時に制限をかけずに権限を引き継ぐ問題や、ベクトルデータベース（データを数値化して類似性で検索するデータベース）等への不正データ混入により誤情報や不適切操作が長期間継続するリスクを取り上げています。

2. 安全導入に向けた8段階の手順

フレームワークでは、企業が安全にAIエージェントを導入するための8つのステップを示しています。

1. ​第1段階​: 規制要件や事業目標を整理し、関係部門での合意を形成する。
2. ​第2段階​: サプライチェーンリスク（製品の製造や流通などの開発プロセス全体において脆弱性が混入する危険性）を評価し、構成要素の完全性を検証する。
3. ​第3段階​: 各エージェントの権限範囲や、人間による承認（Human-in-the-loop）条件を定義する。
4. ​第4段階​: 入力情報の分離や分類機構などによるプロンプトインジェクション対策を講じる。
5. ​第5段階​: ツール利用権限を厳格に管理する。
6. ​第6段階​: エージェントごとに固有のアイデンティティーを付与し、認証情報を保護する。
7. ​第7段階​: 利用者やセッション単位で記憶領域を分離し、整合性を確認する。
8. ​第8段階​: エージェントの行動や判断理由を可視化し、目的逸脱や異常を早期検知できる監視体制を構築する。

AI技術の自律性が高まり、単なるチャットボットから業務プロセスを自律実行するエージェントへと移行する中で、セキュリティ対策のアップデートは不可避の課題となっています。Anthropicが提示した「Zero Trust for AI Agents」は、AIを安全に運用するための実践的なアプローチとして、今後AIを業務に本格導入しようとする企業にとって重要なベストプラクティス（最良の実践事例）となると予想されます。攻撃手法と防御側の技術が共に高速化する時代において、システム侵害を想定した頑健なアーキテクチャ設計と運用の重要性がますます高まっていくと見られます。