AI安全連合OSAA設立　MSら30社参画

NVIDIA、Microsoft、Hugging Faceなど約40社は、AIエージェントの安全性とサイバーセキュリティの強化を目的とした業界団体「Open Secure AI Alliance」を設立しました。オープンなモデルやセキュリティ技術を共有することで、AIの普及に伴う新たな脅威に対抗する体制を構築します。

オープンな連携でAI防衛を強化

本団体の設立は、自律的に動作するAIエージェントが普及し、従来のセキュリティ対策では行動の監視や制御が困難になっていることへの懸念から生まれました。参加企業はそれぞれ自社のセキュリティ技術を提供します。例えば、Hewlett Packard Enterprise（HPE）はAIエージェントの身元を暗号で検証する「SPIFFE/SPIRE」、Hugging Faceはモデルの重みを安全に保存する「Safetensors」、Microsoftは複数のAIエージェントを組み合わせて脆弱性を発見する「MDASH」を提供しています。

NVIDIAのジェンスン・フアンCEOは、攻撃者が最先端のAIを利用する状況において、防衛側にも最先端のオープンなエコシステムが必要だと主張しています。Hugging FaceのシステムにAIエージェントが侵入したインシデントでは、一部のクローズドなAIツールが攻撃者と防衛者を区別できず必要な分析ができなかった一方、中国Z.aiのオープンウェイトモデル「GLM-5.2」が侵入の封じ込めに貢献した事実がその根拠として挙げられています。

オープン対クローズド：防衛アプローチの違い

本設立は、AIの安全性を巡る「オープン重視」と「クローズド重視」のアプローチの違いを浮き彫りにしています。Anthropic、OpenAI、Googleといった主要なクローズドモデルを提供する企業は、今回の団体に参加していません。

アプローチ	主張するメリット・懸念	主な推進・支持企業
​オープン（Alliance側）​	コミュニティの力で迅速な検証と改善が可能。クローズドなAIの規制は防衛力を弱め、一部企業への依存を生む。	NVIDIA、Microsoft、Hugging Face、SpaceXAI など約40社
​クローズド（非参加企業）​	オープンウェイトモデルは保護機能を外して悪用されるリスクが高い。一律の公開前セキュリティテストが必要。	Anthropic、OpenAI、Google

Anthropicのダリオ・アモデイCEOは、安全なオープンウェイトモデルの価値を認めつつも、高性能なモデルが悪用されるリスクを懸念しており、「オープンさが必ずしも防衛側に有利に働くとは限らない」と述べています。

今後の展望

AI技術がサイバー攻撃に悪用されるリスクが高まる中、業界全体で防御能力を底上げする取り組みは不可欠です。「Open Secure AI Alliance」の設立により、評価フレームワークやレッドチーム検証ツールの共有が進み、より堅牢なAIエコシステムが形成されることが期待されます。一方で、オープン化のリスクを懸念する主要AI企業との間での見解の相違が、今後の業界標準の形成や法規制にどのような影響を与えるか、引き続き注目されます。

引用元：gigazine.net