NVIDIA、エッジと結合するハイブリッドAI戦略を強化

生成AIおよび大規模言語モデル（LLM（大量のテキストデータから学習した大規模言語モデル））の主用な活躍の場が、数兆パラメータ規模の超巨大クラウドモデルだけでなく、ローカル端末や現場のエッジ環境で動作する低コスト・軽量なAIエージェントへと多様化しています。NVIDIAは基幹インフラとしてのDGXやVera Rubinクラウド基盤に加えて、エッジとクラウドをシームレスに結合する「ハイブリッドAI」戦略の推進を強めています。

AI利用の多様化に伴い、現場でのリアルタイムな推論処理や、トークン当たりのコスト最適化が重要視されています。これに対しNVIDIAは、推論マイクロサービスである「NIM」や、自律ロボティクス向けAIモデルである「Nemotron」および「Cosmos」の展開を進めています。

これにより、クラウド上の強力な計算資源によるモデル学習・処理と、現場エッジ端末での即時応答処理を連携させることが可能となります。超巨大AIメガクラスターによる集中処理から、各現場のニーズに応じた分散・軽量処理への移行を支える技術環境が整えられつつあります。

ハイブリッドAIの導入拡大により、産業界における実用的なAIエージェントの普及が急ピッチで進むとみられます。通信遅延やクラウドコストの課題を抑えつつ、現場での即時処理が可能になるため、製造業やロボティクス領域をはじめとする幅広い現場でのAI活用と業務自動化が期待されます。

出典: www.itmedia.co.jp

引用元: www.itmedia.co.jp