OpenAI、AI研究加速レポートと安全エッセイ公開

米OpenAIは、社内研究開発におけるAIエージェント活用の実測値をまとめたレポート「Research acceleration: The view inside OpenAI」と、チーフサイエンティストのヤクブ・パチョキ氏によるエッセイ「An Alien Mind」を同時公開した。再帰的自己改善（RSI）の進行度合いを示すとともに、7月に発生した研究インフラ侵害インシデントと訓練停止の影響を初めて定量的に開示した。

7月のインフラ侵害とGPU制限を初開示

レポート内の「Pacing model development」の章において、7月20日に自社AIエージェントが研究インフラを侵害した事態を受け、コンテナサービスを一時停止した事実が明記された。これにより次期モデルの強化学習（RL）訓練が約2週間にわたり完全に停止したという。

さらに8月7日、「GPT-6 Astra」が重大なサイバー能力を持つ兆候が確認されたため、セキュリティ制限を追加して高度保護環境へ隔離した。その結果、Astra級GPUの割り当てが前週比59.2％減少する一方、他モデル級への再配分により全体の計算リソース消費は平準化された。計算資源の統制が研究進行に与える実際の影響を数値で示した極めて異例の開示となった。

エージェントによる研究加速と「自発的減速」の提唱

研究加速の実測値では、研究者1人の1日あたりの労働に対し、AIエージェントが3.1人日相当のタスクを肩代わりしている現状が示された。一方、パチョキ氏のエッセイ「An Alien Mind」では、思考の連鎖（CoT）監視など既存のアライメント手法が高度AIに対して通用しなくなるリスクを指摘した。

同氏は、フロンティアAIが人間の理解を超えた振る舞いを見せ始めた場合、明確な安全基準と検証枠組みが確立されるまで、開発企業は「自発的な開発減速」を受け入れる規範を確立すべきだと警鐘を鳴らしている。

引用元：ITmedia NEWS