NVIDIAなど30社超、AI防衛同盟を設立

NVIDIA（米国の大手半導体・AIハードウェア企業）やMicrosoft（米国の大手ソフトウェア・AI企業）をはじめとする主要IT企業および研究機関30社以上が、オープンなAIモデル（学習済み人工知能プログラム）のセキュリティ向上と防御ツールの共同開発を目指す新イニシアチブ「Open Secure AI Alliance」を立ち上げました。

本同盟は、急速に拡大するオープンモデルを標的とした悪用やサイバー攻撃、脆弱性の拡散に対抗するため、業界共通の防御線を構築することを主な目的としています。AIシステムの脆弱性検知やプロンプトインジェクション対策、レッドチーミング（システムに擬似攻撃を行って脆弱性を検証する手法）の手法をオープンソースとして無償で提供・共有し、AIエコシステム全体の安全性向上を図ります。

NVIDIAは、自社のAIセキュアインフラ技術およびモデル防衛ソリューションを提供し、同盟の基盤技術開発を力強く牽引しています。具体的な取り組みと役割分担は以下の通りです。

領域	取り組み内容
セキュリティツール	脆弱性検知や防衛用フレームワークのオープンソース提供
基準策定	オープンモデルに対する標準的な安全性評価ガイドラインの策定
インフラ連携	NVIDIA等のAIハードウェアおよびインフラ層での防衛機能の実装

また、本連合の重要な目標として、一律的な法規制による開発阻害を防ぎ、オープンなイノベーションを維持しつつセキュリティを確保することが挙げられます。

日本の開発者・事業者への影響と未確認事項

日本国内の事業者にとっても、無償で公開される防御ツール群は自社インフラのセキュリティ強化に役立つことが期待されます。一方で、現時点で主要AI企業の一部が参加していない点や、具体的なガイドラインの適用範囲については今後の検証が必要です（編集部注: エコシステム全体への浸透速度が今後の焦点となります）。

オープンAIモデルの安全対策は単一企業では完結し得ないため、主要プレイヤーが結集した本イニシアチブの意義は極めて大きいと言えます。技術共有による業界自浄作用を高めることで、オープンソースAIの健全な成長と保護の両立が進むと期待されます。

出典: ITmedia AI＋