AI関連の最新ニュースをピックアップ
AIC(サーバー機器メーカー)は、AIデータセンターの高速ストレージ需要に対応するPCIe Gen6(次世代の高速データ転送規格)対応の2UサイズJBOF(Just a Bunch of Flash) (複数のSSDを搭載する筐体)サーバー「F2032-01-G6」を発表した。本システムは、NVIDIAの次世代「Vera Rubin」アーキテクチャや「BlueField-4 DPU(データ処理に特化した専用プロセッサ)」と連携し、AI推論で非常に重要となるKV Cache(生成AIが以前の対話履歴を一時保存するキャッシュ)の高速化を目的として設計されている。
F2032-01-G6は、2Uの筐体サイズの中に最大32基のE3規格(新しいエンタープライズ用SSDの形状)SSDを搭載可能だ。大容量のQLC(1セルに4ビットを記録するフラッシュメモリ)SSDをフルに装備した場合、最大8PB(ペタバイト。約800万ギガバイトに相当)という圧倒的なストレージ容量を実現する。
内部の通信制御には、Broadcom(ブロードコム)の144レーンPCIe Gen6スイッチ「PEX90144」を採用し、SSDとの間で広帯域・低遅延の転送を可能にしている。また、データセンターの安定稼働のために2つの独立した制御ノードを搭載し、冗長(バックアップを備えた)構成による高可用性を実現している。
大規模なAI推論モデルの運用においては、応答速度を維持するために大容量かつ超高速なKV Cacheストレージの配備が事実上の必須要件となりつつある。AICの「F2032-01-G6」は、SSDをGPUプロセッサの物理的に極めて近い位置に配置することで、AIインフラ全体の処理効率向上に大きく貢献するものと期待される。
引用元:ServeTheHome