Anthropic、万能Jailbreak主張を検証し安全性を確認

セキュリティ研究者Pliny氏がGPT-5.6や Claude Opus 5（Anthropicのフラグシップ大規模言語モデル） を含む先端AIモデルを包括的に破る「万能 Jailbreak（AIの安全フィルターや制約を無効化する攻撃手法）手法」を発見したと発表し、AI業界で話題となっています。専門メディアXenospectrumは各社の試験結果や製品防御仕様を元にその実効性を詳細に検証しました。

各社試験結果と安全防御の仕組み

発表に対し、OpenAIはGPT-5.6の防御システムにおいて本手法による突破率は0%であったと報告しています。一方、英国AI Security Institute (UK AISI) が行ったホワイトボックスに近い特殊条件下では、対話的な試行により攻撃が成功する例が確認されています。

AnthropicのClaude Opus 5においては、入力内容に応じて分類器が介入する仕組みが導入されています。サイバーリスクの高い要求を検知した場合、システムは自動的に旧モデル（Opus 4.8など）へフォールバックして応答を制限する仕様となっています。

検証機関・企業	報告内容・防御結果
OpenAI	GPT-5.6実運用環境での突破率は0%と説明
UK AISI	特殊な内部アクセス条件で攻撃成功例を発見
Anthropic	分類器による検知時にOpus 4.8へ切り替わる自動安全機構を搭載

未確認事項と再現ログの必要性

Pliny氏の主張する万能Jailbreakが本当に技術的脅威となるかについては、以下の点が未検証のまま残されています。

• ​再現環境の非公開​: どのプロンプトやパラメータで再現できるかの客観的ログが提出されていない
• ​応答モデルの識別​: Claudeで禁止回答が返された際、実際に応答したのがOpus 5なのかフォールバック後のOpus 4.8なのかが不透明

セキュリティ設計への分析と展望

単一のモデル拒否（アライメント）だけに頼る安全設計は限界を迎えています。実運用システムにおいては、モデル入力層の分類器、権限分離、出力監視などの多重防御（Defense in Depth）を構築することが重要です。責任ある開示プロセスを通じた客観的検証が進むことが期待されます。

引用元：Xenospectrum