超知能AIの開発を2040年まで減速すべき、米団体が提言

米国の研究者らによって設立された非営利シンクタンク「AI Futures Project」は、人類を超える能力を持つ「超知能AI」の開発速度を意図的に抑制し、その誕生時期を2040年まで引き延ばすべきだとする新たな提言書を公開した。提言では、急激な技術進歩がもたらす社会の混乱や制御不能化のリスクに警鐘を鳴らし、国家間および企業間での合意と情報公開の必要性を訴えている。

1. 『検証可能な減速』と米中の合意形成

同団体は、米国や中国などの主要国が「検証可能な減速」において合意し、秘密裏の開発競争を抑止しつつ、協調的かつ緩やかに超知能へ近づくアプローチを推奨している。開発ペースを落とすことで、AIによる大規模な雇用喪失や、国家・企業への過度な権力集中、政府の政策対応の遅れといったリスクを緩和できると主張している。

2. モデル情報開示と第三者検証の要請

AI企業に対しては、開発したモデルの「重み（学習済みパラメータ）」以外のすべての技術情報を外部に開示し、独立した第三者機関による検証を可能にすることを求めている。提言の共同執筆者であり、元OpenAIのDaniel Kokotajlo氏は、開発スピードを低下させることで、社会システムがAIの普及に備える時間的猶予を確保できると説明している。

引用元：末岡洋子