英チャールズ国王、OpenAIら米首脳招きAI安全サミット開催

イギリスのチャールズ3世国王は、スコットランドのエステート（ダンフリーズ・ハウス）にNVIDIA（AI計算基盤とGPUを供給する米半導体大手）、OpenAI（ChatGPT等を開発するAIフロンティア企業）、Anthropic（安全性研究を中核に掲げるAI開発企業）、およびGoogle DeepMind（Google傘下の先端AI研究部門）の経営幹部や政策担当者を招集し、AIの安全性と実存的リスクに関する非公開サミットを開催しました。

「運命の主導権を失わないために」共通原則の策定を呼びかけ

バッキンガム宮殿が公表した公式声明およびDecrypt、TNWの報道によると、ディッチリー財団の主導のもとで行われた本サミットには約30名の首脳陣や研究者が参加しました。

出席者には、NVIDIAのジェンスン・フアンCEO、Google DeepMindの共同創業者デミス・ハサビス氏、OpenAIの最高財務責任者（CFO）サラ・フライヤー（Sarah Friar）氏、Anthropicの渉外責任者ティノ・クエジャル（Tino Cuéllar）氏、英国のAI担当大臣カニシュカ・ナラヤン氏らが名を連ねました。

チャールズ国王は演説の中で、「人間性と道徳的価値を重んじる世界中の人々は、私たちが自らの運命や魂のコントロールを失わないという確証を熱望している」と述べ、AI技術の発展が「人類の奉仕のために維持される」よう、共通の指針を模索するよう強く訴えました。

サミットはAnthropicのダリオ・アモデイCEOが「フロンティアモデルの能力向上ペースを意図的に抑制すべき」とする論文を発表し、サム・アルトマン氏らが賛同を示した直後に開催されたものの、参加企業による拘束力のある合意や具体的な共同声明の発表には至りませんでした。

独自価値要素：出席各社の発言・スタンス比較と未確定事項

本サミットで浮き彫りになった各社首脳の主な主張は下表の通りです。

出席幹部・企業	主な発言と主張	スタンスの特徴
Demis Hassabis (DeepMind)	汎用人工知能（AGI）の実現は「ほんの数年先」であり産業革命の10倍の影響がある。失敗リスクは非ゼロ	技術の甚大な影響を警告しつつ制御手段の確立を提唱
Sarah Friar (OpenAI)	AIの急速な進歩に対し、1つの企業や政府だけで安全性を担保することは不可能	包括的な国際協力とエコシステム全体での連携を強調
Jensen Huang (NVIDIA)	安全でない製品は出荷を差し控えるべきだが、基盤技術そのものではなく製品単位で規制すべき	オープンモデルの推進と開発スピードの維持を重視

拘束力ある合意に至らなかった背景

参加企業が原則の重要性に同意しつつも協定締結に至らなかった背景には、米国の政治情勢との乖離があります。米トランプ大統領はAI実存リスク論を「急進左派のデマ」と公言して政府規制に否定的な姿勢を崩しておらず、英王室が主導する国際協調の呼びかけと、米国本国の規制緩和路線との間で企業側が明確なコミットメントを避けた格好となっています。

分析と今後の展望

編集部注: 2023年のブレッチリー・パークでのAI安全サミットに続き、英国王室が再び調停役としてテック大手を一堂に集めたことは、AIガバナンスが企業の自主管理を超え、国家主権や人道倫理に関わる国際政治課題として定着したことを物語っています。しかし、開発競争による莫大な利益と国家間の覇権争いが絡む中、拘束力のある枠組みをいかに構築できるかは依然として不透明なままです。

引用元：The Royal Family | Decrypt | TNW