Google DeepMind、AGI研究機関「DMI」設立

Google DeepMindは、AGI（人間と同等の幅広い認知能力を持つ汎用人工知能）の安全性確保や社会・経済的な影響についての研究と議論を推進する新組織「DeepMind Institute（Google DeepMindが設立したAGI社会実装と安全性の研究プラットフォーム）（DMI）」を設立し、創設エッセイおよび4本の初期論文を公開しました。共同創業者兼チーフAGIサイエンティストのシェーン・レッグ（Shane Legg）氏、共同創業者兼会長のデミス・ハサビス（Demis Hassabis）氏、Googleのリサーチ担当プレジデントのジェームズ・マニイカ（James Manyika）氏の3名が共同ディレクターを務めます。

AGIの定義と制御喪失リスクへの対処方針

創設エッセイにおいて、DMIはAGIを「人間の脳が持つあらゆる認知能力を発揮できるシステム」と定義しています。現在のAIシステムには依然として一部の基本的タスクで不完全な部分が存在するものの、「これらのギャップは近く解消される見込みである」と言及しました。

現時点で特に懸念される領域としてサイバーセキュリティとバイオリスクを挙げるとともに、将来的な「自己改善型システムにおける制御喪失の可能性」に警鐘を鳴らしています。

DMIではGoogle DeepMind内外の研究者が論文を発表する予定であり、寄稿内容は各著者の見解であってGoogleの公式見解ではない方針を採っています。創設時に公開された初期論文の構成は以下の通りです。

• ​推論の透明性​: Rohin Shah氏とAnca Dragan氏による論文「The case for reasoning transparency」
• AGIに向けた経済政策​: Julian Jacobs氏とAlex Imas氏による論文「Economic policy for AGI」
• ​新ユートピア主義の原則​: Stephen Cave氏による論文「Principles for a new utopianism」
• ​フロンティアAIの枠組みと新時代​: Demis Hassabis氏による論文「A framework for frontier AI and the dawning of a new age」

独自価値要素：AGI経済政策シナリオと開発ペース規制への見解

初期論文「Economic policy for AGI」では、51名の経済学者データから構築された51のAIエージェント評価モデルと文献調査を組み合わせ、AGI到来時の11の経済政策を3段階のシナリオ別に評価しています。

想定される経済混乱シナリオ	著者が推奨する「最小後悔」政策対応	施策の特徴と評価結果
​軽度の市場混乱​	失業保険の拡充、勤労所得税額控除（EITC）の拡大、雇用主主導の再教育	米国民の85%が公的再教育を支持、72%が失業保険拡充を支持
​中度の雇用代替​	税額控除の「給付付き税額控除（負の所得税）」への転換	所得格差の是正とセーフティネットの迅速な提供
​労働と資本の分離​	GDPに占める労働分配率の長期低下を防ぐ「ユニバーサル・ベーシック・キャピタル（UBC）」	資本所有権の分散を狙う。主体性スコア76.3（最高）、実現可能性33.1

論文著者は、広く議論されるユニバーサル・ベーシック・インカム（UBI）について「費用が膨大かつ対象が曖昧であり、最も支援が必要な層へ十分な救済を集中できない恐れがある」と懐疑的な評価を下しています。

レッグ氏による開発ペース調整への言及

Financial Timesのインタビューにおいて、レッグ氏は「AIの能力向上ペースが安全制御を追い越してはならない」と指摘しました。Anthropicのダリオ・アモデイ（Dario Amodei）CEOが提唱した「最先端モデルのリリースペースを減速（pacing the frontier）させる」提案について、レッグ氏は「方向性として興味深く、検討に値する」と前向きな姿勢を示しています。また、他社による「AGI達成宣言」については時期尚早との見解を示し、2028年までに50%の確率で最小限のAGIが実現するという自身の予測を改めて維持しました。

未確認事項と今後の展望

• ​未確認事項​: DMIに対するGoogle DeepMindの年間研究予算規模や常任フェローの採用枠、および外部機関との共同研究プログラムの公募開始時期は公表されていません。
• ​今後の展望（編集部注）​: フロンティアAIの開発競争が加速する一方、自己改善型モデルのリスクや雇用の急変に対する社会的懸念が急増しています。Google DeepMindが技術研究だけでなく、経済学や社会政策を専門に扱う独立プラットフォームを立ち上げたことは、技術開発と社会制度設計の双方を主導しようとする意図を示しています。競合であるAnthropicのペース調整論への賛同を示唆した点も含め、AIラボ主導の自主的セーフガード策の議論が一段と進展するとみられます。

引用元：TNW | Agi