シンガポール、国連AI安全枠組み条約を提案

シンガポールのビビアン・バラクリシュナン外相は、米ニューヨークで開催された国連総会（UNGA）の一般討論演説において、AIの安全性を担保するための共通ルールと国際監視機関を設立する「国連AI安全枠組み条約（UN Framework Convention on AI Safety）」の創設を提案しました。米中間のAI開発競争が過熱する中、開発の一時停止を求めるのではなく、国際的な共通制度の構築によって破滅的リスクを防ぐ現実的なガバナンスへの転換を呼びかけています。

開発停止ではなく国際安全基準の策定へ

バラクリシュナン外相は20分間の演説の中で、「技術の魔神はすでにランプから出てしまった」と英語のことわざを引いて指摘し、米中両国の覇権争いやフロンティアモデル企業の巨大な経済的動機を前に開発停止を求めるのはもはや非現実的であると論じました。

提案の骨子は以下の通りです。

• ​枠組み条約の創設​: 国連気候変動枠組み条約（UNFCCC）をモデルとし、基本原則と国際行動の基盤を定める条約の策定
• ​国際専門機関の設置​: デジタル通信規格を統括するITU（国際電気通信連合）や原子力の安全管理を担うIAEA（国際原子力機関）に類似した、AIの安全基準を策定・監視する国際組織の設立
• 3大リスクへの対処​: 自律システムの制御喪失、悪意ある主体による生物兵器などの大量破壊兵器への悪用、社会経済の大規模な混乱
• ​人間による最終決定権の確保​: 「核のボタンをAIと人間のどちらに委ねるべきか」と問いかけ、自律型システムに対する人間の介入手段と明確な制限の維持を強調

シンガポールは同週、フィンランドとノルウェーが主導し、欧州連合（EU）および20カ国超が国連総会に合わせて署名した「企業の自主規制にとどまらない政府によるフロンティアAI監視宣言」にも参加しています。

国際AIガバナンスの枠組み比較と日本への影響

枠組み・構想	主導・形態	アプローチと拘束力
​シンガポール提案（国連枠組み条約）​	国連主導（全加盟国対象）	法的拘束力を持つ条約とIAEA型の監視専門機関の設立を目指す
​広島AIプロセス（G7）​	日本主導（先進国中心）	開発者向け国際行動規範・指針（自発的コミットメント中心）
EU AI法（AI Act）​	欧州連合	リスクベースの厳格な域内法規制（違反企業への巨額制裁金）
​北欧有志国宣言（2026年9月）​	フィンランド・ノルウェー等20カ国＋EU	フロンティアモデルに対する拘束力ある政府監視の義務付けを要求

​日本への影響​: 日本は広島AIプロセスを通じてソフトロー（自主規範）による国際協調を推進してきましたが、国連総会で多国間条約や監視機関の創設を求める声が強まる中、国際基準の標準化や輸出入管理、安全性評価機関（AI Safety Institute）の連携において多角的な対応が迫られる可能性があります。

分析・展望

編集部注: バラクリシュナン外相が自動車の運転に例えて「高性能車を安全に走らせるには強力なエンジンだけでなく、優れたブレーキ、信号機、シートベルトが必要だ」と論じたように、AI規制の議論は「技術の禁止・停止」から「安全な運用基盤の標準化」へと力点を移しています。特に米中対立の狭間にある中立的な都市国家シンガポールが発議したことは、大国間の覇権争いに巻き込まれず国際社会全体の安全を確保する現実的解として、今後の国連での議論に影響を与えるとみられます。

引用元：The Straits Times