Hassabis氏、AGI安全の標準化団体を提案

Google DeepMind CEOのDemis Hassabis（Google DeepMindのCEO。ノーベル化学賞受賞者でもあるAI研究の第一人者）氏が、AGI（Artificial General Intelligence（汎用人工知能）。人間と同等以上の認知能力を持つAIを指す）の安全な実現に向けて、米国主導の標準化団体（Standards Body）の設立を提案した。同氏はXとSubstackに投稿したエッセイで、AGIが「おそらくあとわずか数年」で実現するとの見方を示し、いまが行動するための「貴重な猶予期間（precious window）」だと警告している。

FINRA型の民間非営利モデルを想定

Hassabis氏が提案する標準化団体は、フロンティアモデル（最先端の超大規模AIモデル。最も高い性能を持つ先端AIシステムの総称）を一般公開する前に安全性を検証する枠組みだ。具体的なモデルケースとして挙げられたのが、米国のFINRA（Financial Industry Regulatory Authority（金融業界規制機構）。米国の民間非営利の金融自主規制機関）（金融業界規制機構）である。FINRAと同様に、民間非営利で業界が資金を拠出する運営形態を想定している。

Hassabis氏はエッセイで「先端AIモデルの能力を検証するには、動的で適応性が高く厳格な新しいアプローチが必要だ」と述べた。そのうえで「米国は経済的・技術的な立場を考えれば、こうした枠組みを最初に構築する適任者だ」と位置づけた。

トランプ政権のAI規制強化が背景に

この提案は、トランプ政権（米国のトランプ大統領による現政権。AIモデルのリリース制限を含むAI規制を強化している）がOpenAIやAnthropicに対してモデルリリースを制限するなど、政府主導のAI規制が強まっている文脈で出された。Hassabis氏は以前からフロンティアモデルの監督に専門家組織が必要だと主張してきたが、今回の提案はホワイトハウスのより直接的な規制介入に対し、業界側から民間主導の代替枠組みを示す意味合いがある。

Hassabis氏はエッセイで、技術者だけでなく哲学者や経済学者など社会のあらゆる分野の専門家が参加すべきだとも主張した。「どのような価値観で生き、意味や目的とは何か、人間の条件そのものがどう変わりうるのか」という問いを挙げ、「これらの問いを技術者だけに委ねるべきではない」と記している。

政府規制か業界自主規制か——AGI時代のガバナンス設計

Hassabis氏の提案は、AGI時代の安全管理を政府主導で行うか民間主導で行うかという対立軸を鮮明にした。FINRA型モデルの利点は、技術の進化速度に合わせた柔軟な基準更新が可能な点にある。一方、業界資金による運営は規制の独立性に対する疑念を招きやすく、金融業界でもFINRAの利益相反は繰り返し議論されてきた。

Hassabis氏がAGIを「数年以内」と見積もる時間軸は、同氏が以前から「2030年にも到来しうる」と発言してきた内容と整合する。仮にこの予測が正しければ、標準化団体の設計・設立・運用開始までの時間的余裕は極めて限られる。米政権の規制路線が続く中で、業界提案がどの程度受容されるかは、今後のAIガバナンスの方向性を左右する分岐点となる。なお、Hassabis氏が技術者以外の参加を求める姿勢は、AI開発大手が哲学者を採用、アライメント重視の動きで報じたAI開発大手による哲学者採用の動きとも軌を一にする。DeepMindは6月にもDeepMind、AI制御ロードマップ発表のAI制御ロードマップや、DeepMind、マルチAI研究に助成金のマルチAI研究助成金を通じて安全基盤の整備を進めており、今回の標準化団体構想はその延長線上に位置づけられる。