シャドーAIや危険な行動を防ぐ国産統制基盤

三井物産セキュアディレクション（MBSD）とSMBCサイバーフロントは、AIエージェントや生成AIサービスを安全に社内導入・統制するための国産セキュリティ製品の共同開発に着手しました。両社は、実運用を想定した制御エンジンの技術検証（PoC）を2026年上期に実施し、同年の下期にβ版をリリースする予定です。

1. 開発背景と顕在化するAIのリスク

生成AI技術や、自律的にタスクを実行するAIエージェントの普及に伴い、企業内でも開発コードの自動生成、調査、ドキュメント作成といった業務でAIの活用が急速に広がっています。一方で、AIがアクセスする情報範囲や処理権限の拡大に伴い、機密情報の不用意な外部送信、脆弱性を孕むコードの実行、AIの乗っ取りによる不正操作（マルチターンでのメモリ汚染攻撃など）といった、新たなガバナンスやセキュリティ上のリスクが深刻な経営課題となっています。

2. ガードレール製品のセキュリティ機能

本製品は、企業が未承認で利用しているAIサービス（シャドーAI）の検知を行い、AIエージェントなどが機密情報を外部送信したり、危険なコマンドを実行したりするのを監視・遮断する「ガードレール」として機能します。自社環境に導入されたAIエージェントに対し、組織で一元化したポリシーを適用可能。単純なルールベースの検知だけでなく、会話の流れなどを解釈して、マルチターンでのメモリ汚染といった複雑なサイバー攻撃をも検出します。

AIエージェントや生成AIの社内活用が拡大する中、セキュリティやコンプライアンスの担保は多くの企業にとって最重要事項です。MBSDが持つAIセキュリティの高度な技術知見と、SMBCサイバーフロントが有するコンサルティング力や金融水準の顧客基盤という両社の強みを結集した今回の取り組みは、日本特有の法規制や商慣習に合致した国産AIセキュリティ基盤として期待されています。