Claude Fable 5の保護機能が厳しすぎると物議

Anthropicが2026年6月9日にリリースした最上位AIモデル「Claude Fable 5」において、搭載されたガードレール（保護機能）の判定が厳しすぎるとして、SNS上で話題を集めています。無害な一般的な質問に対しても保護機能が誤って作動し、応答が下位モデルへと自動的に切り替わる現象が報告されています。

1. 独立した「分類器」による機微クエリの自動検出

「Claude Fable 5」には、安全対策として本体とは独立したAIシステム「classifier（分類器）」が組み込まれています。この分類器が、サイバーセキュリティ、生物・化学、モデルの「蒸留（distillation）」に関連すると思われるリクエストを検知すると、応答の生成を本体ではなく、次に高性能なモデルである「Claude Opus 4.8」へ自動的に引き継ぎます。

2. 生物学関連での誤検知多発とユーザーの不満

しかし、この分類器の調整が安全性を優先して極めて保守的に行われているため、「cancer（がん）」や「DNAとは何？」といった基本的な生物学の質問、無害な挨拶などでも保護機能が作動する誤検知（false positive）が発生しています。 Anthropic側は、保護機能が作動するのは全セッションの平均5%未満であるとしつつ、今後誤検知を減らすための改良を行う方針を示しています。

「Claude Fable 5」は、危険な悪用リスクを防ぎつつ最上位モデルの能力を一般ユーザーに提供するため、下位モデルへの「動的切り替え」というユニークなアプローチを採用しました。しかし、現状の厳しすぎる安全弁の挙動は、日常的な調査や生物医学などの専門研究者の利用体験に影響を与えています。高度な安全対策と実用的な利便性のバランス調整は、フロンティアAIの提供における今後の重要な課題です。