Anthropic、AI悪用脅威レポートを公開

米Anthropic（米国のAI研究・開発企業）は2026年9月10日（現地時間）、自社の大規模言語モデルClaude（Anthropicが開発する対話型AIモデルファミリー）の悪用事例と対策をまとめた包括的な脅威インテリジェンスレポート「AIの悪用検知と対策：2026年9月版」を公開した。2025年12月から2026年8月までの8か月間に検知・遮断した事案を7つの領域に分類し、中国AI企業による産業規模のモデル抽出（蒸留）や国家支援組織によるサイバー作戦、反体制派の監視など、AIが現実の脅威活動に組み込まれている実態を詳述している。

7分野にわたる悪用実態：自律型サイバー攻撃から生物学的研究まで

Anthropicによると、悪用が確認されたのはClaude Haiku、Sonnet、Opusの3系統であり、最上位のClaude FableやMythos系については蒸留の1件を除き悪用は確認されなかった。レポートでは悪用を以下の7分野に整理している。

1. AI拡張サイバー作戦​: ロシア国家支援グループ（GTG-20006 / Midnight Blizzard関連）がウクライナの政府・軍事機関やドローンのサプライチェーン企業を標的に攻撃を実行。AIを用いて偵察、フィッシング基盤構築、検出されたマルウェアの自動改変・再ビルドを反復する高度なワークフローを構築していた。
2. ​監視活動​: 中国の国家安全機関や地方サイバー警察に関連するアカウント群が、天安門事件の追悼行事関係者、ウイグル支援活動家、情報発信アカウント「@whyyoutouzhele」など反体制活動家の監視システム構築にClaudeを利用していた事案を遮断した。
3. ​影響工作​: ロシア国営メディア向け原稿制作への組み込み、イランのプロパガンダ機関、フランスの広告会社による約70の偽ニュースサイト上での約8,900本の記事配信などを特定。
4. ​通常兵器開発​: ロシアの個人による自爆型ドローン群の制御コード検証や、中国主体によるレーダー・通信妨害ソフトウェアの開発支援への利用が確認された。
5. ​生物学的悪用​: 鳥インフルエンザの機能獲得研究や毒素ペプチドの毒性最適化パイプラインなど5件を阻止。ワクチン開発等の正当な研究と兵器設計の境界判定が難しく、安全性を最優先して遮断措置を講じた。
6. ​詐欺・不正​: 詐欺目的の偽マッチングアプリ網の運用など。
7. ​不正なモデル蒸留​: 他社モデルの能力を自社モデルに無断で移植する大規模作戦。

中国AI各社による「産業規模の蒸留」とデータ流出

レポートが特に重く扱っているのが、中国のAI開発企業による組織的なモデル抽出行為である。Alibaba、DeepSeek、Moonshot AI、MiniMax、Z.aiなどを名指しし、偽アカウントや盗難クレジットカード、サードパーティのモデルルーティングサービスを経由した不正アクセスを報告した。

なかでもXiaomi（シャオミ）の自社モデル「MiMo」の開発過程では、ユーザーとの対話ログをClaudeに再投入して学習データを生成していたことが判明した。40万件を超えるリクエストの中継トラフィックには、欧米企業の設備投資計画や開発者のAPI秘密鍵など、数百人のユーザーの機微情報が含まれていたと指摘されている。

公式レポートの分析と独自価値要素（脅威の質的変化）

Anthropicの一次レポートは、AIの関与によって攻撃者の能力がどれだけ底上げされたか（Uplift）を「速度・規模・深さ」の観点から定量化している。

最大の質的変化は「高度な攻撃を実行するために高度な攻撃者を必要としなくなった」点にある。従来は国家支援の専任部隊しか行えなかった多段階のサイバーキルチェーンが、単独のハクティビストでも実行可能になりつつある。さらに、セキュリティ製品による検知をAI自身が監視し、ブロックされた瞬間にコードを自動修正して再配備する「自律的な検知回避ループ」の出現は、従来の静的シグネチャによる防御モデルを無力化する脅威となっている。

分析・展望

公開の前日には、Anthropicの元従業員らがAIの存亡リスクに関する警告をソーシャルメディア上で発信し議論を呼んでいた。年内の新規株式公開（IPO）を視野に入れる同社にとって、リスクの存在を隠蔽せず、詳細な脅威レポートとして自発的に開示することは、安全性研究におけるリーダーシップと企業ガバナンスへの信頼を確立するための布石ともいえる。

モデルの高度化に伴い、不正な蒸留による知的財産の流出やサイバー攻撃への悪用は、単一のAI企業の努力だけで防ぐことは不可能になりつつある。AIモデル層、ホスティング基盤層、エンドポイント防御層を包括した業界横断的な情報共有と防御フレームワークの確立が不可欠となるだろう。

引用元：Anthropic | ITmedia NEWS | Times of India