Anthropic、AI自律開発のペース追跡3指標を公開

米Anthropic（安全性重視の先端AI研究所でClaudeシリーズを開発）は、最先端フロンティアAIモデルの開発進展度合いを客観的に測定・公開するための3つの実務的指標を発表しました。AI自身が次の世代のAIモデルを開発する「自己改善ループ」や自律エージェントの大規模運用の実態を可視化し、社会や政府機関、業界関係者がAIの進展ペースを把握・評価できる標準的な枠組みを提案しています。

フロンティアAI開発ペースを測る「3つの測定指標」

公式発表およびSiliconANGLE等の報道によると、Anthropicが提示した3指標は以下の通りです。

1. AI主導のAI研究開発量（AI-led R&D）​: AIモデル（Claude）が自社の研究開発業務にどれだけ関与しているかを追跡する独自インデックス。同社の初期測定では、現時点でいかなる研究サブセットにおいても「完全自律」では動作していないことが確認されています。
2. AIエージェントの監督状況（自律AIエージェントの監督）​: 社内システム上で稼働する自律エージェントの行動を監視・介入するシステム。現在Anthropicの社内環境では約3万体の自律エージェントが稼働しており、その大半が研究開発タスクに携わっていると報告されています。
3. ​計算リソースの配分（Compute allocation）​: AI開発の主要な投入資源である計算能力（コンピュート）の割り当て状況。7月中旬のスナップショット分析では、全計算能力の約6％がAI安全性に、さらに12％が安全性に焦点を当てたAI主導R&Dに配分されていたことが開示されました。

また、これらの安全対策を担保するため、外部の複数組織から独立した第三者評価者を社内に配置する計画も公表されました。第三者評価者には社内リスク評価チームと同等のシステムやデータへのアクセス権限が付与され、安全検証や事故報告、主要指標の継続的モニタリングを実施します。

独自価値要素：3指標の測定手法とAnthropic社内実態の比較整理

公式発表資料および報道情報に基づき、提示された3指標の測定目的とAnthropic自身の計測現状を整理します。

測定指標	追跡の目的・想定リスク	Anthropic社内の計測実態・数値
AI主導R&D量​	AIによる自己開発が進み、人間がモデルの潜在リスクを把握できなくなる事態の防止	独自関与インデックスで計測。特定業務の補助は進むが、完全自立運用の領域は現時点でゼロ
​自律エージェント監督​	エージェントが多段階にタスクを委任し、「人間主導」から「AI主導」へ移行するリスクの検知	リアルタイム介入システムを構築。社内で約3万体の自律エージェントを稼働・監督中
​計算リソース配分​	開発の注力先を可視化し、将来的な国際協調ペース調整の客観的なレバーとする	全計算資源の6%をAI安全性に直接配分、12%を安全性関連のAI支援R&Dに充当

未確認事項と今後の課題

Anthropicは他社のフロンティア研究所（OpenAI、Google DeepMind等）に対しても同様の測定手法の採用を呼びかけていますが、業界全体での共通規格化や統一的な監査基準の策定時期は未定です。また、第三者評価者の選定基準や独立性の担保手法については今後の詳細発表が待たれます。

分析と今後の展望

編集部注: Anthropicのダリオ・アモデイ（Dario Amodei）CEOは先週末、最先端AIモデルの急速な開発ペースを業界協調で意図的に減速・調整する構想を提唱し、OpenAIのサム・アルトマン氏やイーロン・マスク氏らの支持を集めていました。今回公開された3指標は、単なる理念にとどまらず「計算資源の配分」や「エージェント監督数」といった具体的かつ検証可能な入力値を測定することで、将来的な開発ペース制限や規制に向けた実効的な測定基盤を提示した点に重要な意義があります。

引用元：AI Watch | GIGAZINE | SiliconANGLE | CNA