Copilot悪用のAIワーム攻撃が確認され注意喚起

セキュリティ研究者により、Word文書内に仕込まれた悪意のある隠しプロンプトを悪用し、Copilot（Microsoftが提供するAIアシスタント）などのAIアシスタントを介して他の文書やネットワーク内へ自動的に転写・自己拡散する「AIワーム（AIアシスタントを媒介に自己複製・自動拡散する攻撃手法）」と呼ばれる新たなサイバー攻撃手法が確認・報告されました。ドキュメント内に非表示テキストとして潜ませた悪意ある命令をCopilotが自動的に解釈・実行してしまうことで、ユーザーの意図しないデータ外部送信や不正命令の伝播が引き起こされるリスクが指摘されています。

今回報告された攻撃メカニズムの核心は、高度なプロンプトインジェクション（AIモデルに指示を誤認させて意図しない動作を行わせる手法）にあります。攻撃者はWordドキュメント内の見えないテキスト部分に特殊な指示コードを隠しておき、CopilotなどのAIツールが文書を解析・処理する際にその隠しプロンプトをユーザーからの指示として誤認させます。これにより、AIツールが保持するアクセス権限を利用して外部へのデータ送信が行われたり、さらに別のファイルへ不正な指示が書き込まれてネットワーク全体へ感染が拡散する仕組みです。

脆弱性の報告を受けたMicrosoftは、複数回にわたるセキュリティパッチの配信およびフィルタリング処理の適用を実施しました。しかし、セキュリティ研究者の報告によると、プロンプトインジェクションの巧妙な迂回手法が存在するため、現時点では完全な防御や無効化には至っていないとされています。

AIアシスタント機能の普及に伴い、ドキュメントの自動要約や編集が日常的に行われるようになりましたが、それに乗じた新たなセキュリティ脅威が現実化しています。外部から入手した未知のWord文書やファイルをCopilot等のAIツールに入力・処理させる際には、意図しないプロンプト実行が発生する可能性を前提とした高度な警戒が必要です。

（編集部注: 従来のマルウェア対策ソフトだけでなく、AIが読み取るテキスト入力全般に対する防御ロジックやアクセス権限の最小化運用が、今後の企業セキュリティにおいて極めて重要な課題になるとみられます。）

出典: news.mynavi.jp