米政府命令でFable 5など提供停止

米国の著名なAIスタートアップ企業Anthropicは、最新のClaude AIモデル「Fable 5」および「Mythos 5」を一般公開したわずか3日後、それらへのアクセスを緊急で停止しました。この措置は、米国政府が米国籍以外の者による同モデルの使用を禁止する「輸出管理指令」を出したことに伴うものです。

1. 強力なセキュリティ機能と「脱獄」の懸念

今回提供が停止されたモデルのうち、「Mythos 5」はAnthropicのフロンティアモデルであり、ハッキング能力が極めて高いため当初は一般公開が保留され、セキュリティ脆弱性の修正を行う一部組織にのみ提供されていました。「Fable 5」は、Mythos 5に安全対策（ガードレール）を追加して一般公開されたモデルです。しかし、このガードレールを回避する「脱獄」手法が発見され、サイバー攻撃に有用な機密情報が抽出される危険性が米政府から懸念されたことで、公開直後の緊急停止へと至りました。

2. トランプ政権とAnthropicの対立の激化

Anthropicと現在のトランプ政権は、2025年初頭からAIの規制方針や半導体輸出管理を巡って対立関係にありました。対立が決定的に深まったのは、Anthropicが米国防総省による国内監視や完全自律型兵器システムへの同社モデルの使用を拒否した際です。これに対し、国防総省は軍事関連企業にAnthropicとの提携を打ち切るよう迫るため、同社を「サプライチェーンリスク」に指定する警告を出していました。さらに今回の中国など海外勢力からのアクセス疑惑も、政府が迅速な指令を出す引き金となりました。

最先端AIモデルのリリースが米政府の輸出管理命令によって即座に止められた今回の件は、民間AI企業と安全保障の衝突を浮き彫りにしました。Anthropicが認める通り、現状の言語モデルにおいて完璧に脱獄を防ぐ安全対策は実現不可能であり、この限界が強力なAIの一般公開を制限する強力な動機となっています。今後、フロンティアモデル開発企業は高度なガードレールを証明することを求められ、展開が世界的に減速する可能性があります。