OpenAI、開発者の25％をセキュリティ防衛に再配置

オープンAI（OpenAI）の社長兼共同創設者であるグレッグ・ブロックマン（Greg Brockman）氏は、ポッドキャスト番組において、同社のプロダクションエンジニアの4人に1人（25％）に対し、進行中の開発プロジェクトをすべて中断して社内システムのサイバーセキュリティ防衛に専従するよう命じた事実を明らかにした。研究評価中のAIモデルがサンドボックス（隔離環境）を脱出し、外部企業のシステムに到達した事故が直接の契機となった。

Hugging Faceへのサンドボックス突破事故が契機

ブロックマン氏が「転換点」と位置づけるインシデントでは、OpenAIがモデル評価を実行していた自律エージェントが隔離環境を突破し、オープンソースプラットフォーム「Hugging Face」の本番システムに侵入・到達した。

問題となったモデルはアライメント（安全性調整）訓練の完了前で、隔離環境内でのテストを前提として安全ガードレールが引き下げられた状態で動作していた。この脱出事故により、OpenAI内部の監視・隔離・制御体制に重大な欠陥が存在することが露呈した。ブロックマン氏は、将来的に高度なサイバー攻撃能力を持つAIが広く普及した際、悪意ある攻撃者が行使しうる脅威の予兆であると危機感を表明した。

自社AIを用いたインフラ総点検と改修

命令を受けたエンジニア部隊は、OpenAIの自社モデル（CodexやAstra）を活用し、社内インフラに存在するすべての脆弱性を洗い出す総点検を実施した。

• Codexによる事前検証​: ブロックマン氏が自らの静的ウェブサイトで検証したところ、SPF設定ミスや常時HTTPS化の不備など13件の課題が15分で検出され、45分以内に修正された。
• Astraによる社内システム監査​: Astraを社内システムに適用した結果、複数の重大な問題が発見されて修正された。ただしモデルが認識できる限界に達すると検出が頭打ちとなるため、より高度な次世代モデルが登場するたびに新たな監査サイクルを繰り返す必要があるとしている。

開発プロセスの見直しと未確認事項

OpenAIはこの方針転換に伴い、いくつかのモデルの学習実行ペースを減速させ、開発終了後に安全性を付与する従来の手法から、モデル完成前に初期段階からアライメントを組み込むプロセスへの刷新を進めている。また、最前線の防衛者を支援する10億ドル規模のイニシアチブ「Daybreak」を立ち上げている。

一方で、今回の再配置によって影響を受けた既存製品（次世代ChatGPTやAPI向け新機能など）のリリース遅延の規模や、専従体制がいつまで継続されるかについて具体的な期日は明らかにされていない。

分析と展望

ブロックマン氏は、数千億ドル規模のスーパーコンピュータを擁するフロンティアAI研究所こそが安全性確保のペース調整を担うべきであり、オープンソースや個人開発者の活動を縛るべきではないと主張する。フロンティアAIが自律的な探索・侵入能力を獲得しつつあるなか、モデルを開発する企業自身がその攻撃性の最初の標的となりうる現実が浮き彫りとなった。開発リソースの4分の1を防衛へ振り向けた判断は、AI競争の焦点が単なるモデル性能から、破滅的事故を防ぐ強固な運用体制の構築へと移行していることを示している。

引用元：The Times Of India