NVIDIA、Blackwell向けAI推論データ暗号化機能を評価中

NVIDIAは、次世代GPU「Blackwell」アーキテクチャにおいて、AI推論時のデータプライバシーを保護するための新機能の評価を進めていると報じられました。大規模言語モデル（LLM）が企業や個人の機密情報を扱う機会が増える中、実行中のデータを暗号化して保護する「コンフィデンシャル・コンピューティング（CC）」技術の導入が焦点となっています。 報道によると、NVIDIAはメモリ暗号化機能を備えたコンフィデンシャル仮想マシン（CVM）や暗号化されたNVLinkインターコネクトを組み合わせ、信頼できる実行環境（TEE）の構築を目指しています。内部テストでは、DeepSeek-R1モデルを用いた推論において、コンフィデンシャル・コンピューティングを有効にした状態でも、ベースラインの96.1%〜98.2%の出力スループットを維持できたとされています。 ​独自価値の整理（未確認事項の整理）​ 現時点で、この暗号化機能がBlackwell GPUの全モデルに標準搭載されるのか、あるいは特定のエディションやライセンスが必要になるのかは明確にされていません。また、暗号化処理に伴うオーバーヘッド（遅延）が、低遅延を要求されるリアルタイムAIアプリケーションにどの程度影響を与えるかについても、さらなる検証が待たれます。 ​分析・展望​ AIの企業導入において、最大の障壁の1つが「データプライバシーとセキュリティ」です。NVIDIAがハードウェアレベルでの暗号化とAIフレームワーク（TensorRT-LLMなど）の最適化を両立させることができれば、医療、金融、政府機関など、厳格な規制要件を持つ分野でのAI普及が加速するでしょう。性能とセキュリティのトレードオフを最小化するこの技術は、今後のAIインフラにおける標準的な要件となっていくと予想されます。

引用元：Source

引用元：Quantum Zeitgeist