AI関連の最新ニュースをピックアップ
米Microsoft(マイクロソフト)などの支援を受けるAIチップスタートアップのd-Matrix(ディーマトリックス)は、新型の推論アクセラレーター(AIの応答処理を高速化する専用チップ)である「Corsair(コルセア)」の量産出荷を開始しました。同社は、Corsairを米NVIDIA(エヌビディア)の最新GPU「Blackwell(ブラックウェル)」と同一のサーバーラックに混載して協調動作させるハイブリッド構成を提案しており、データセンターのコスト削減と性能向上をアピールしています。
Corsairは、処理データを高速なSRAM(一時的にデータを保持する半導体メモリ)上に配置し続ける独自のインメモリコンピューティングアーキテクチャを採用しています。NVIDIA Blackwellと組み合わせることで、AIモデルが質問を解釈する初期段階の重い計算(プリフィル)をBlackwellが担当し、回答を出力する後半の処理(デコード)をCorsairが受け持つという役割分担を行います。d-Matrixの社内調査によれば、この構成により、単体のGPUで処理する場合と比べて推論速度が最大10倍になり、電力効率は最大5倍向上するとされています。
d-Matrixは、NVIDIAの市場独占に対抗して製品を置き換えるのではなく、NVIDIAの最高峰GPUと「共存・補完」する形でシステムに滑り込ませるアプローチを選びました。これにより、データセンターの運営事業者は、高価なNVIDIA製GPUの追加購入を抑えつつ、安価なCorsairを並列させて推論能力を拡張できるようになります。同社はSupermicro(スーパーマイクロ)などの大手サーバー製造企業と提携し、システム全体の構成(リファレンスデザイン)としての提供を開始しています。
現在、AI業界の投資はモデルの学習(トレーニング)から、日常的な運用(推論)へと急速にシフトしています。d-Matrixが提示した「GPU+専用推論チップ」のハイブリッド構成は、コスト削減と電力消費の抑制に悩むハイパースケーラー(大規模クラウド事業者)にとって有力な選択肢となる可能性があります。市場を独占するNVIDIAに対する、競合他社の新たな対抗策として今後の採用動向が注目されます。