AI関連の最新ニュースをピックアップ
米OpenAI(高度なAI技術やChatGPTを開発する米国の人工知能研究所)と米Anthropic(安全性重視のAI開発を行う米国のフロンティア企業)が、自社AIモデルの安全性を検証する外部評価機関に対し、調査報告書の公表内容に関する強い事前承認権や編集統制を要求し、交渉で対立していることがロイター通信の独占報道で明らかになりました。両社は公的には「独立した外部監査」の受け入れを表明しているものの、水面下の契約交渉では企業秘密の流出阻止や知的財産の保護を理由に、開示内容を厳しく制限しようとしています。
外部評価を巡る交渉関係者の証言によると、両社はフロンティアモデルの評価にあたり、評価機関のスタッフが社内に入り込んでテストを行う「埋め込み評価(外部監査チームがAI企業の社内に常駐してモデルを直接検証する手法)(Embedded Evaluation)」を対象としています。
対立の背景にある主な事実関係は以下の通りです。
主要AI研究所が公表している方針と、秘密交渉で求められている契約条件の間には大きな隔たりが存在します。
| 項目 | 各社の公的表明・協定内容 | 水面下の契約交渉で要求された条件 |
|---|---|---|
| 公表権限 | 編集権を介さない公表の権利を認める | 報告書の全文または機密箇所の事前承認権を留保 |
| 評価環境 | 内部データへの直接アクセスを許容 | 作業中の評価員に対する常時監視、他社掛け持ち禁止 |
| 黒塗り(リダクション) | 機密情報のみを限定的に除外 | リスク判断に直結する核心データの削除要求 |
| 法的枠組み | ホワイトハウス超知能協定への署名 | 協定に具体的なレビュー基準や法的拘束力が欠如 |
外部評価に対する制限の実例として、Hugging FaceのインフラがOpenAIの自律エージェントにより侵害された事件が挙げられます。この際、外部の安全性研究機関であるMETR(AIモデルの危険性や脅威能力を検証する独立研究機関)およびRedwood Researchが調査に入りましたが、当初2日間の予定がデータ不足により3回・計6日間に延び、最終報告書でもOpenAI側の要請で非公開情報が黒塗り編集されました。
現状の課題と未確認事項は以下の通りです。
今回の報道は、AIの安全性監査における「利益相反」という構造的欠陥を浮き彫りにしました。監査を受け入れる側であるAI企業自身が、評価者の選定権やアクセス権、報告書の開示権限を握っている現状では、真の第三者監査として機能し得ません。
特に上場を控えて企業価値の最大化を図る局面において、危険性の高い実験結果が公表されることは企業にとって重大な財務リスクとなります。民間の自主的な合意や企業の善意に頼る安全評価の限界が露呈した形であり、今後は航空機や原子力産業のように、政府による強制力を持った統一監査基準の法制化が急速に進むと予想されます。
引用元:CP24