OpenAIとAnthropic、AI監視機関設立を要求

OpenAIは、最先端（フロンティア）AIモデルの開発を管理するための国際的な規制・監視機関の設立を求める声明を発表しました。この提案は、AIの急速な進化に伴う社会的リスクを防ぐため、必要に応じて国際社会が協調して開発のスピードを減速させる権限を持つ組織を想定しています。同様の呼びかけは競合であるAnthropicも先行して行っており、業界トップ企業の足並みが揃う形となりました。

OpenAIのCEOであるサム・アルトマン（Sam Altman）氏とチーフサイエンティストのヤクブ・パチョツキ（Jakub Pachocki）氏が共同執筆したブログ記事の中で、この提案が明らかにされました。彼らは、AIシステムがAI研究そのものを行う「自動化されたAI研究者」の構築を進めており、2028年3月までには同社の研究の大部分がAIシステムと共同で行われるようになると予測しています。このような「自己改善」を繰り返すAIの急速な発展は、人間の制御を離れるリスクを伴うため、国際的な枠組みによる管理が必要であると主張しています。 また、前週にはAnthropicが「再帰的自己改善」（AIが自ら次の高度なAIを訓練する現象）の兆候を理由に、世界的なAI開発の一時停止や減速が望ましいという見解を示していました。2023年にはイーロン・マスク（Elon Musk）氏やヨシュア・ベンジオ（Yoshua Bengio）氏らが著名な公開書簡で6ヶ月の開発停止を訴えており、今回の両社の動きも同様の懸念を背景にしています。

主要AI企業であるOpenAIとAnthropicが相次いで強制力を伴う国際監視機関の必要性を明言したことは、今後の規制議論に大きな影響を与える可能性があります。両社は今年中に株式上場を控えていると見られており、市場からの圧力で安全性が軽視されるのを防ぐための「警告」とも解釈されています。今後は、各国の政策決定者がどのようにこの要請を受け止め、具体的な法整備や国際協調へと動くかが注目されます。