MS、AIセキュリティ調査の手順書を公開

Microsoftは、同社の生成AIサービスである「Microsoft 365 Copilot」や「Azure AI」を導入している企業向けに、AI関連のセキュリティ事象を調査するための手順書（プレイブック）「Reconstructing AI activity in investigations」を公開しました。このプレイブックは、AIの操作履歴やシステム状況を記録した「テレメトリデータ（システムの動作状況を記録したデータ）」を活用し、プロンプトインジェクション（悪意ある指示を入力してAIに意図しない挙動をさせる攻撃）の試行や不適切なデータアクセスなどの異常を追跡・再構築するための具体的なアプローチを提示しています。

1. 調査を標準化する「Scope-Context-Signal」モデル

プレイブックでは、AI関連のインシデント（セキュリティ上の事故）が発生した際に、その場しのぎの調査を減らし効率的に状況を把握するため、3段階の調査プロセスを提案しています。まず「Scope（範囲）」で「誰が」「いつ」どのAIサービスを利用したかを特定し、次に「Context（背景）」でアクセスされたデータや露出状況を通常時と比較して評価します。最後に「Signal（予兆）」として、不審な挙動の警告などを検証し、これらの一連の流れからAIの活動記録を正確に再現するモデルを確立しています。

2. 主要製品との連携と「自律エージェント」への適用

手順書には、同社のセキュリティ製品群（Purview、Defender、Sentinelなど）からテレメトリ情報を統合する設定方法や、データベースから必要な情報を検索するためのKQL（Microsoft独自のデータベース検索言語）クエリがまとめられています。さらに、近年実用化が進んでいる自律エージェント（人間の介入なしにタスクを実行するAI）に対しても、設定状況や権限が適切に使用されているかを検証するモデルが含まれており、最新のAI運用環境に対応しています。

生成AIが日常の業務インフラとなるにつれ、従来のコンピューターやID管理と同様に、AIシステムに対しても厳しいセキュリティ監視の能力が不可欠となっています。今回公開された手順書は、企業のセキュリティ運用チーム（SecOps）がAI特有の脅威に対抗するための実用的な基盤を提供するものと見られます。今後、AIのさらなる普及に伴い、こうしたインシデントレスポンス（セキュリティ事故発生時の対応および復旧作業）の能力は、企業の情報安全対策において重要な要素になっていくと考えられます。