AI関連の最新ニュースをピックアップ
AIスタートアップのAnthropicは、同社最上位の「Mythos」クラスのAIモデル群として初めて一般提供される新モデル「Fable 5」をリリースしました。このモデルは、サイバーセキュリティ上のリスク(重要インフラや銀行プラットフォームの脆弱性を極めて迅速に特定できる能力など)への懸念から、これまでごく限られたパートナー機関のみにアクセスが制限されていた技術です。今回は「安全対策版」として一般公開されました。
Fable 5は、コードの記述やデバッグ、複雑な研究課題への回答、画像分析などに極めて高い性能を発揮します。一方、安全規制を受けていない元のバージョンである「Claude Mythos 5」は、サイバーセキュリティの専門家が脆弱性検証や攻撃分析を行う「Project Glasswing」プログラムなどに参加している、特定の防衛関連組織に限定して提供されます。
一般向けのFable 5では、生物・化学、サイバーセキュリティ、モデル蒸留などに関連するリスクの高いクエリを受け取った際、自動的に制限の強い下位モデル「Claude Opus 4.8」へ応答処理を切り替える「自動フォールバック機能」が組み込まれています。外部専門家を起用した1,000時間以上のレッドチーム検証やバグバウンティプログラムなどを経ても、この安全機構を完全に回避する手法は見つかっていないとされています。
安全面への入念な配慮と自動フォールバック機構を導入することにより、最強の「Mythos」モデルの力が一般に開放されました。依然として軍事利用や大量監視への利用規制をめぐって米国防総省との契約解消などの政治的緊張が背景にある中での、技術の一般展開とビジネス面でのIPO(新規株式公開)に向けた動きが注目されます。