OpenAIとCerebras、超高速推論モード提供

米Cerebras Systemsと米OpenAIは、ウェハ全体を1つの巨大チップとして統合した同社の「CS-3 Wafer-Scale Engine」を活用し、OpenAIのフロンティアモデル「GPT-5.6 Sol（OpenAIが開発した最新の高度推論言語モデル）」の超高速推論モード「GPT-5.6 Sol Ultrafast」の提供を開始したと発表した。従来のGPUベースのインフラと比較してトークン生成速度が劇的に向上し、複雑な自律コーディングや多段階推論を瞬時に完了させることが可能となる。

CS-3ウェハスケールチップによる超高速推論の技術

Cerebras公式ブログによると、今回の統合により以下のパフォーマンス向上が実証された。

• ​驚異的なトークン生成速度​: 毎秒数百トークンを超える出力レートを維持し、数千行規模のコードリファクタリングや長文ドキュメント生成を数秒で完了する。
• ​オンチップSRAMの活用​: 外部DRAMへのアクセスボトルネックを排除し、ウェハ上の超大容量SRAM内でモデルウェイトを直接保持することで極小のレイテンシを実現。
• API経由での提供​: OpenAI APIのオプションエンドポイントとして、エンタープライズ顧客向けに順次利用枠が解放される。

従来GPUインフラとCS-3 Ultrafastの比較

項目	従来のGPUクラスタ（H100/B200）	Cerebras CS-3 Ultrafast
​チップ構造​	複数GPUのInfiniBand相互接続	単一ウェハスケールエンジン（90万コア）
​トークン生成速度​	50〜80 tokens/sec	350+ tokens/sec
​最適化対象​	バッチ処理・大量リクエスト	低遅延リアルタイム・自律エージェント

分析と今後の展望

推論速度の高速化は、AIエージェントが人間とリアルタイムで対話しながら自律作業を進める上で決定的な要素となる。GPU一強のAIインフラ市場において、Cerebrasのような特化型ハードウェアがフロンティアモデルの推論で明確な優位性を示したことは、今後の半導体競争に大きな一石を投じるものだ。

引用元：cerebras.ai