米、Fable 5などに配布停止命令

米トランプ政権の輸出規制命令を受け、AIスタートアップのAnthropicは、2026年6月10日にリリースしたばかりの最新AIモデル「Claude Mythos 5」および「Claude Fable 5」の全世界でのアクセス・配布を停止しました。主要な投資家であるAmazonのアンディ・ジャシー（Andy Jassy）CEOが、政府高官に対してモデルの「脱獄」によるサイバー攻撃への悪用リスクを指摘したことが契機となったと報じられています。

1. Amazon CEOによる政府への懸念共有

報道によると、Amazonのセキュリティ研究者が特定のプロンプトを用いてFable 5をテストしたところ、本来制限されるべきサイバー攻撃に悪用可能な情報を抽出できる「脱獄」手法を発見しました。アンディ・ジャシーCEOはこの情報を財務長官を含む政府関係者に共有し、これを受けたホワイトハウスと国家安全保障の担当者が対応を協議しました。

2. 政府の介入とAnthropic側の反論

米政府はAnthropicのアモデイCEOに対し、該当する脆弱性の修正かモデルの配信停止を求めました。アモデイ氏が修正要求を拒否したとされることから、トランプ政権は外国人や外国企業による同モデルへのアクセスを制限する輸出規制を発令しました。Anthropicはこれに従って全世界でのアクセスを遮断しましたが、「指摘された脆弱性は比較的初歩的であり、完全な脱獄には至っていない」と主張しています。

今回の事件は、主要な技術パートナーかつ投資家であるAmazonが自ら政府へ報告したことで、AIモデルの配布が僅か2日で停止されるという異例の事態となりました。高度なAIモデルがコード生成や脆弱性探索などのサイバー攻撃に直結する懸念が現実味を帯びる中、今後はAIの安全性審査や政府による規制介入の基準をめぐって議論が一層活発化することが予想されます。