AI関連の最新ニュースをピックアップ
データセンター向け超高速ネットワーク開発を手がける米スタートアップのCornelis Networks(コーネリス・ネットワークス)は、AIワークロードに特化したオープンなネットワークアーキテクチャ「Active Compute Fabric」を発表しました。あわせて、米Qualcomm Technologies(クアルコム)との戦略的協業、およびIAG Capital Partnersが主導する2億500万ドル(約300億円)のシリーズC資金調達を完了したことを明らかにしました。
AIクラスタの規模が拡大するにつれて、データ転送の通信待ちによって高価なAIアクセラレータ(GPU等)の稼働率が約半分(約50%)にまで低下するボトルネックが深刻化しています。Cornelisの新アーキテクチャは、データがネットワークを通過する最中に集約計算やデータ圧縮を行うネットワーク内計算(データ転送を行うスイッチ等の通信網内部で直接データ処理や集約を行う技術)を導入することで、ネットワークトラフィックを最大50%削減し、GPUの無駄な待機時間を大幅に解消します。
「AI Infra Summit」での発表および報道で確認された主な事実は以下の通りです。
従来のデータセンターネットワークはパケットを単純転送するだけの受動的な経路(パッシブパイプ)であり、集合通信や同期処理、キャッシュ転送のたびにGPU側の計算サイクルを消費していました。Active Compute Fabricは、ロスレス(パケット損失なし)転送とプログラマブルな計算ユニットをスイッチ網内に統合します。 これにより、以下の処理をデータが宛先に到着する前にファブリック内で実行します。
CornelisのCMO(最高マーケティング責任者)ブランドン・ドレーガー(Brandon Draeger)氏がSiliconANGLEに語ったところによると、事前検証シミュレーションにおいてネットワーク全体のトラフィックが最大**50%**削減されました。これにより、現在約50%にとどまっている大規模AIクラスタのアクセラレータ実効稼働率を大幅に引き上げられるとしています。
AIデータセンターにおけるネットワークの役割がどのように変わるのか、従来型とActive Compute Fabricの違いを以下に整理します。
| 比較項目 | 従来型ネットワーク(パッシブパイプ) | Cornelis Active Compute Fabric |
|---|---|---|
| パケットの扱い | 送信元のデータをそのまま宛先へ中継 | 転送中にスイッチ内で演算・集約・圧縮を実行 |
| AllReduce集合通信 | 全GPU間で個別に送受信しGPU側で集約 | ファブリック内で中間結果を合算し1つの結果を配送 |
| GPUの稼働率 | 通信待ちや同期処理で約50%がアイドル状態 | 通信処理がオフロードされGPU実効稼働率が大幅向上 |
| 相互接続規格 | ベンダー固有の独自規格(NVLink等)に依存 | UALink / Ultra Ethernet / Ethernet等のオープン標準 |
| データ通信量 | 未圧縮の生勾配・生データが網内を往復 | 転送中圧縮により全体トラフィックを最大50%削減 |
Cornelisが提示した「ネットワークはAIシステム全体のコストの約15%を占めるにすぎないが、残りの85%(計算資源)から得られる価値を決定づける」という視点は、次世代データセンターの設計思想を端的に言い表しています。
これまでAIインフラの投資はGPUやアクセラレータ単体のFLOPS(演算性能)向上に集中してきましたが、クラスタ規模が数万〜数十万基に達した現代では、チップ間の通信遅延こそが最大の制約となっています。NVIDIAがNVLinkとInfiniBandによる垂直統合で市場を席巻する中、CornelisとQualcommが推進するオープン標準ベースの「アクティブネットワーク」は、特定ベンダーの囲い込みを嫌うクラウド事業者や大規模AI開発者にとって極めて魅力的な代替選択肢となる可能性があります。
引用元:SiliconANGLE