Anthropic、AIの安全検証政策提言

米AIスタートアップAnthropic（アンソロピック）のダリオ・アモデイ（Dario Amodei）CEOは6月10日（現地時間）、急速なAIの進化とそれに伴うリスクに対処するための政策提言をまとめたブログ記事「Policy on the AI Exponential（AIの指数関数的進化と政策）」を公表しました。アモデイ氏は、AIの進化速度が従来の政府による政策立案プロセスをはるかに超越していると危機感を示し、社会全体が緊急で取り組むべき政策について議論を呼びかけました。

1. 規制と公共の安全：航空機基準の安全審査

アモデイ氏は、現行のAI安全性に関する自主的な取り組みだけでは不十分であり、法的拘束力のあるルールの整備が急務であると指摘します。具体的には、高性能な「フロンティアAIモデル」を市場にリリースする前に、航空機の設計や安全審査と同等の第三者による技術検証と監査を義務づけるべきだとし、もし基準をクリアできない場合はリリースを法的に差し止める強力な規制枠組みの必要性を論じています。

2. 医療・経済・民主主義に与える影響と提言

提言は安全性のみにとどまらず、多岐にわたる社会領域について整理されています。

• ​国家権力と個人の自由​: AIが独裁ツールとなり、国家が市民を監視したり権力を集中させたりするのを防ぐため、民主主義的ルールを技術レイヤーでも強化することを求めました。
• ​マクロ経済と税制​: AIの普及による雇用の急変に対応し、AIが生む富やメリットを広く社会に再分配する税制および経済政策の構築を指摘。
• ​メリットの加速​: 医療やライフサイエンスなどでのAI活用を阻む、前時代的な規制の見直しを要求。
• ​民主主義国家の連携​: サプライチェーンやリスク管理において、民主主義国家が共通の価値観のもとでリーダーシップを確立すべきとしました。

今回の提言は、アモデイ氏が警告する「人間の制御を離れるリスク」が、現実的なリスクであると改めて提示したものです。特に、AI安全性に対する懸念は、業界内の楽観的な経営姿勢とは無関係に、客観的な技術的根拠に基づくものであると同氏は強調しています。今後各国の法制化議論にどのような影響を与えるかが注目されます。