Google DeepMind、AI自己改善の加速リスクは低いと報告

Google DeepMindは、最新鋭モデル「Gemini 4 Argon（Google DeepMindが開発した最先端の大規模言語モデル）」の安全性評価報告書（Safety Report）を公開し、AIがAI自身を開発・改良することで急激な進化を遂げる「再帰的自己改善（AI自身がより賢い次世代AIを自律的に開発し、進化が加速度的に暴走する仮説的シナリオ）」のリスク監査結果を報告しました。社内で本番稼働するコードの75%以上がAIによって生成されている一方、AI研究開発の進展ペースに統計的な加速の証拠は見られず、現時点で差し迫ったリスクは低いと結論づけています。

安定した能力向上と社内コード生成の実態

報告書によると、Google DeepMindは123種類のモデルと92のベンチマークを統合した総合指標「GCI v1」を構築して能力向上速度を継続測定しています。

• ​一定ペースの進化​: 2026年4月1日以降、最先端Geminiの能力向上ペースは月あたり約0.1ポイントと極めて一定の直線を描いています。Gemini 4 Argonのスコアは約3.3と直線から上振れていますが、これはAI自身による自律加速ではなく、投入された計算資源（コンピュート）や組織的な投資の拡大に起因するものと分析されています。
• ​コード生成率と人間の主導​: 社内エンジニアが本番環境へ投入するコードの75%超はAIが執筆しています。しかし、プルリクエスト（コード変更要求）の​​約88%は依然として人間の指示や直接執筆を必要​​としており、完全自動で提出された割合は11.9%（4月時点の7.5%から微増）にとどまります。また、すべてのコード変更は本番反映前に人間によるレビューを受けています。

研究エンジニアリングタスクにおけるAIの限界

DeepMindの研究チームがArgonの社内エージェント作業ログ1,389件を分析したところ、割り当てられた研究タスクを単独で解決できた割合は約50%でした。これは、DeepMindが完全自動化の危険水準（レッドフラグ）として設定している90%の基準を大幅に下回っています。

幹部やシニア研究者12名を対象とした調査では、明確に仕様が定められた検証可能なタスクの実行においては高い自動化が達成されているものの、以下の領域ではAIの自律遂行が極めて困難であることが判明しました。

• 自由度の高い科学的な着想や仮説立案
• 新規の実験プロトコル設計
• 機械学習モデルの微細な学習不安定性の原因診断
• 長期的な研究の筋道を見極める判断力

つまり、AIは指示された定型コードの生成には長けているものの、「どの研究課題を追求すべきか」を自律的に決定する能力は依然として持ち合わせていません。

AI安全論争への一石と今後の展望

今回の監査結果は、業界内で広がる「AI開発の暴走シナリオ」に対する重要な実証データとなります。AnthropicのDario Amodei CEOら一部のAI企業首脳が自己改善の加速リスクを警告し規制を呼びかける中、Google DeepMindは厳密な社内指標をもとに「直近の暴走リスクは低い」との見解を示しました。

ただし、報告書はリスクが皆無であると断定しているわけではありません。制限を解除したArgonが悪意あるサイバー攻撃や生物兵器情報の危険閾値を超える可能性は排除できないと明記されています。AIによる開発支援が日常化する中、人間による統制と安全審査の継続が最重要の前提条件となります。

引用元：Decrypt