AI関連の最新ニュースをピックアップ
NVIDIAは、AIモデルの安全な運用を推進するための業界団体「Open Secure AI Alliance」の設立を発表しました。この連合には、Microsoft、CrowdStrike、Hugging Faceなどの大手テクノロジー企業が名を連ねており、防御者が利用できるオープンなツールの整備を目的としています。
NVIDIAのブログによると、このアライアンスの目的は、AIシステムをサイバー攻撃から保護するためのオープンな技術や手法を共同で開発・共有することです。クローズドなモデルだけでは、防御側がインフラを柔軟に検証し、迅速に適応させることが難しいため、オープンソース(ソースコードが公開され、自由に改変・再配布できるソフトウェア)のアプローチが不可欠であると強調しています。
NVIDIAはまた、新しいオープンソースプロジェクトである「NVIDIA Labs Object-Oriented Agent (NOOA)」をGitHub上で公開しました。このフレームワークにより、AIエージェント(自律的にタスクを実行するAIシステム)の動作をテストし、追跡・監査することが容易になります。
アライアンス参加企業は、安全なモデルフォーマットからゼロトラストのIDフレームワークに至るまで、多岐にわたるソリューションを貢献しています。例えば、Hugging Faceは安全にモデルの重みを保存する「Safetensors」を提供し、Microsoftはマルチモデルのエージェントスキャンシステム「MDASH」を活用して脆弱性の検出に寄与しています。
今回の連合設立は、特定のクローズドなプロバイダーへの過度な依存を防ぎ、防御側の選択肢を広げるための重要な一歩です。各社が共同でインフラストラクチャを整備することで、AIによる脅威に対してより強靭で、かつ透明性の高い防御エコシステムが形成されることが期待されます。
引用元:blogs.nvidia.com