OpenAI、独自推論ASIC「Jalapeño」を発表

独自推論シリコンによる垂直統合の推進

米OpenAIは半導体国際会議「Hot Chips 2026」において、同社初となる自社開発のAI推論専用 ASIC（特定用途向けに最適化して設計された専用集積回路）「Jalapeño（ハラペーニョ）」の詳細を発表しました。

半導体大手 Broadcom（通信およびカスタム半導体開発を手がける米大手半導体企業） および製造支援のCelesticaと共同開発したチップであり、すでに実運用の推論ワークロードで稼働しています。

高帯域メモリ採用と驚異的な電力効率

Jon Peddie Researchの取材報道によると、Jalapeñoプロジェクトは2024年半ばの構想立案から2025年11月のテープアウト（設計完了）までわずか16ヶ月という短期間で開発されました。

主なスペックとベンチマーク実績は以下の通りです。

• ​電力効率​: 現行のNVIDIA Blackwell世代（GB200/GB300）システムと比較して、ワットあたりのスループットが​1.5倍〜1.9倍​​向上
• ​低遅延性能​: ピークスループット稼働時のエンドツーエンド遅延が​1.7倍〜3.6倍​​低減
• ​実推論速度​: DeepSeek R1（高度な推論能力を備えたオープンウェイトの大規模言語モデル） の単一トークン予測において、低同時実行時にユーザーあたり毎秒700トークン超を達成
• ​メモリ構成​: 超高速データ転送を可能にする次世代広帯域メモリ「HBM4」を搭載

GPU調達との併用と次世代展開

OpenAIはNVIDIA等の商用GPU調達を全面的に取りやめるわけではなく、モデルの学習および汎用処理では商用GPUを活用しつつ、大規模推論の特定処理をJalapeñoにオフロードするハイブリッド戦略をとっています。

発表ではすでに次世代チップ（Gen 2およびGen 3）の設計が進められていることも言及されました。一方で、データセンター全体への導入規模や製造コストの総額については明かされておらず、量産体制の進捗が注視されます。

AI推論コスト削減と産業構造への影響

LLMの利用が爆発的に拡大する中、運用コストの大部分を占める推論処理の効率化はAI企業にとって極めて重要な経営課題です。Google（TPU）やAmazon（Trainium/Inferentia）に続きOpenAIが自社シリコンの実働に成功したことは、NVIDIA一強の市場構造に対して一定の牽制となるだけでなく、ChatGPTのAPI料金やサービス提供速度の長期的な安定化に寄与するとみられます。

引用元：jonpeddie.com