AI関連の最新ニュースをピックアップ
OpenAIは2026年8月7日、今夏リリースが期待されていた次世代モデル「Astra(OpenAIが開発する次世代マルチモーダル・自律型AIモデル)」の一般公開時期を延期し、サイバー攻撃能力評価を含む安全評価テストを延長すると発表した。
Axiosの報道によると、Astraの内部テストにおいて、高度な自律的脆弱性発見能力やスクリプト生成能力が確認されたため、同社の「Preparedness Framework(準備フレームワーク)」に基づき、リスク評価をさらに厳格化する必要が生じたという。
外部のセキュリティエキスパートによるレッドチーム演習を実施し、マルウェア作成や不正侵入への悪用を防ぐセーフガードが完全に機能することを確認できるまで一般公開を見合わせる方針である。
期待されていた新モデルの試用は先送りとなるが、安全性が担保された状態で提供されるため、エンタープライズでの導入リスクを低減できる。
性能競争が過熱する中でも、自律モデルの破壊的可能性に対する厳格なリスク評価が開発工程に組み込まれており、AIガバナンスの実践例を示している。
引用元:www.axios.com | 山本敦 | 山本敦