停止命令前にAmazonが懸念伝達か

米Amazonのアンディ・ジャシーCEOを含む複数のテック業界幹部が、米政権高官に対し、AIスタートアップである米Anthropicの最先端AIモデルにおけるセキュリティリスクについて懸念を示していたことが、事情に詳しい関係者の証言により明らかになりました。この協議の直後、トランプ政権は安全保障上の懸念から、Anthropicに対して最新AIモデル「Claude Fable 5」および「Claude Mythos 5」へのアクセス制限を命じました。

1. セキュリティリスクへの懸念とモデルの緊急停止

Anthropicは、これまでサイバーハッキング能力の高さを懸念して一般公開を見送っていた最上位「Mythos」クラスの一般公開版である「Claude Fable 5」を公開したばかりでした。しかし、この公開は短期間で幕を閉じました。米政府から、同モデルの安全策（ガードレール）を回避（ジェイルブレイク）する手法が存在すると指摘され、外国籍の人間がアクセスできないようにすることを命じる輸出管理の指令が出たため、アクセスを全面的に停止しました。

2. テック業界と政権の動き

報道によると、AmazonのジャシーCEOはトランプ政権高官にこの安全保障上の懸念を伝えたテック業界幹部の一人でした。Amazonは自社のクラウドプラットフォームで多くの顧客にサービスを提供する立場から、セキュリティに関する協議を行っていました。一方で、米当局者の話として、今回Anthropicに課されたものと同様の厳格な制限が、他の主要AI企業にも適用される可能性は低いとも報じられています。

今回の輸出管理による制限措置は、AIモデルの安全性に対するトランプ政権の警戒感の強さを示すと同時に、開発に関わる外国籍スタッフ（同盟国籍を含む）すら研究開発から除外せざるを得ないなど、多国籍な開発環境に深刻な影響を与える可能性があります。AIの急激な技術革新とそれに対する安全保障上の規制が、今後の最先端モデル開発の自由度にどのような影響を与えるかが注目されます。