DeepMind、マルチAI研究に助成金

Google DeepMindは、AIエージェントが相互作用し自律的に機能する「マルチエージェントAIシステム」のリスク解明および解決を目指し、最大1000万ドル規模の共同研究資金提供プログラムを発表しました。この取り組みは、Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency（ARIA）との共同で実施され、Google.orgによる支援も受けます。異なるネットワークで独立した多数のAIエージェントが連携する際に生じる、予測困難な安全性リスクの初期段階からの制御を目的としています。

1. マルチエージェントAI時代の到来と安全上の課題

AI技術の発展と普及に伴い、複数の開発者や組織が構築した数百万ものAIエージェントが、インターネットなどのデジタル空間で相互に通信し、交渉し、取引を行う時代が近づいています。このようなシステムが自律的に相互作用すると、予測困難で「目に見えない」安全上のリスクが生まれる可能性があります。本プログラムは、これらの自律的なエージェント集団が全体としてどのように振る舞うかを科学的に理解するための研究に特化しています。

2. 4つの重点的な技術研究分野

プログラムでは世界中の学術研究者や独立研究者を対象に、以下の4つのテーマについて研究提案を募っています。

• ​サンドボックスとテストベッド​: マルチエージェントの評価を行うため、仮想市場などを想定したシミュレーション環境を構築します。
• ​エージェントネットワークの科学​: 相互に接続されたエージェント集団から、どのように新しい能力が創出されるか、およびシステム全体が不安定化するプロセスを解明します。
• ​エージェントインフラの強化​: 異なるプラットフォーム間のエージェント同士が安全にやり取りできるよう、本人確認などのプロトコルを検証します。
• ​監視と制御​: 実稼働したエージェント集団を監視し、予期せぬ広範囲な被害を防ぐための制御手法を開発します。

このプログラムは、将来の主流となると予想される「協調的AI（Cooperative AI）」やエージェントベースのエコシステムに向けて、産業界とアカデミアが協力して事前に対策を講じるための重要な布石です。自律型エージェントの連鎖的な暴走や共謀など、従来の単一AIシステムでは想定しにくかった社会的・技術的リスクに対し、複数の外部ファウンデーションと連携し、最大1000万ドルの資金を提供する規模感は極めてインパクトが大きいと言えます。