OpenAI、次期モデル「Astra」訓練を停止

OpenAIが、開発を進めていた次期フロンティアモデル「Astra（アストラ）」のトレーニングおよび実験的開発ラインの一部を自主的に停止したことが明らかになった。同社が規定する内部安全評価基準「 Preparedness Framework（OpenAIがフロンティアモデルの破滅的リスクを事前評価・分類するための安全フレームワーク） 」に基づく検証において、Astraが最高警戒水準である「Critical（深刻）」レベルの自動化サイバー攻撃能力を獲得する可能性が排除できないと判定されたためである。

開発停止の理由とPreparedness Frameworkの規定

OpenAIのPreparedness Frameworkでは、開発中のフロンティアモデルがもたらすリスクを「Low（低）」「Medium（中）」「High（高）」「Critical（深刻）」の4つの閾値で分類している。評価項目にはサイバー攻撃能力のほか、化学・生物・放射性物質・核（CBRN）リスク、説得力、自律的な複製能力などが含まれている。

フレームワークの規律において、「Critical」レベルに分類された、あるいはその領域に達する危険性が高いモデルについては、破滅的なリスクを無効化する緩和策（技術的セーフガード）と物理的・運用上の厳格な防護措置が立証されない限り、それ以上のトレーニング継続および市場へのデプロイメントが厳格に禁止されている。

セーフガード強化に向けた方針と安全チームの評価

OpenAIの安全評価チームは今回のトレーニング一時停止について、「自社で制定した安全基準とチェック機構が意図通りに厳格機能していることを実証する事例である」と強調している。

同社は、モデルのアライメント（倫理的調整）技術やサイバー攻撃への利用を防ぐガードレールが完成し、評価基準を満たす安全性が確認されるまで、該当する実験的トレーニングラインを保留状態に置く。

日本のAI開発者・企業への示唆と未確認事項

高度なAIモデル開発において、能力向上速度が安全対策を上回るリスクは世界共通の課題である。日本のAI研究者やフロンティアモデル開発に取り組む事業者にとっても、開発プロセスに客観的なリスク評価の「赤信号（ハードストップ）」を組み込む安全ガバナンスのあり方として強い関心を集めている。

未確認事項として、Astraのトレーニング再開に必要な具体的評価指標や、この開発遅延がOpenAIの製品ロードマップ（次世代製品のリリース時期）に与える影響については現時点で公表されていない。

編集部の分析と評価

編集部注: 開発企業が自ら巨額の計算資源を投じた最新モデルのトレーニングを自律的に停止した決定は、AI安全管理における画期的な出来事である。競争が激化する中で開発スピードを優先せず、安全ブレーキを作動させた姿勢は業界の評価基準を高める効果がある。

一方で、今後さらに強力なモデルが登場した際に、同様の自制ルールが商業的圧力の中で維持され続けるかどうかが真の試練となる。停止期間中にどのような安全技術が提示されるか注視したい。

引用元：ITmedia AI＋