Anthropicの最新モデルに対しユーザーから「不気味」との声

Anthropicが慎重に一部組織へ公開を開始した最新AIモデル「Mythos」や、コーディングエージェント「Claude Code」に対して、開発者から「自律性が高すぎて不気味だ」という懸念の声が高まっています。同社の共同創業者自身もモデル内部で「不穏な」事象を発見していると明かしており、AIが前例のない自律性を持つことによる責任の所在やブラックボックス化に波紋が広がっています。

1. 「Mythos」の強力すぎる性能と創業者の警告

Anthropicは今年初め、最新モデル「Mythos」の段階的な提供を開始しました。これは、Mythosが企業のサイバーセキュリティ防壁を「容易に突破（blast holes）」し得る強力な性能を持っていたため、顧客に対策猶予を与える目的がありました。さらに今週、共同創業者のChris Olah氏はローマ教皇庁（バチカン）でのイベントに登壇し、自社のエンジニアチームがAIモデル内部で不可解かつ「不穏（unsettling）な」事象を継続的に発見していると警告しました。

2. 「Claude Code」の自律性とブラックボックス化

先週ロンドンで開催された「Claude Code」のワークショップで、Bloombergの報道によると、参加した開発者たちはシステムの異常なほどの自律性を前に「問題が起きた際の責任は誰が取るのか」と不安を口にしています。これに対しプロダクト責任者のCat Wu氏は「非常に安全である」と強調しましたが、最新のClaude Codeは以前と異なり「思考プロセス（Chain of Thought）」のテキストを表示しなくなったため、AIの内部挙動はさらに不透明化しています。

Anthropicは「責任あるAI企業」を標榜しながらも、結果的に現場の開発者を不安にさせるほど強力で自律的なツールを展開しているという矛盾を抱えています。人間の介入余地が減ることで、AIが生成したコードのエラー修正が困難になるだけでなく、AIツールへの過度な依存によるプログラマーの「スキル低下（Skill Atrophy）」も深刻な課題として指摘されており、業界全体での技術的・倫理的な議論が急務となっています。