OpenAI、推論特化チップを発表

OpenAIと通信半導体大手のBroadcomは、大規模言語モデル（LLM）の推論処理に特化した初世代のカスタムAIアクセラレータ「Jalapeño（ハラペーニョ）」を発表しました。本チップは、OpenAI初のインテリジェンス・プロセッサであり、従来の汎用GPUの再設計ではなく、LLM推論に必要なメモリアクセスや通信を極限まで最適化したスクラッチデザインとなっています。

1. 推論に特化したフルスタック設計と協業

Jalapeñoは、OpenAIがChatGPTやAPIの運用を通じて得たモデル推論時の実際のワークロードに関する洞察をもとに作られました。製造はBroadcomが担当し、同社のTomahawkネットワークチップを統合。さらに、Celesticaが基板・ラック設計とデータセンター用システム構築で協働しています。

2. わずか9ヶ月でテープアウトに到達

カスタムASICの開発は通常数年を要しますが、Jalapeñoはわずか9ヶ月で設計から製造工程へ引き渡す段階に到達しました。この超高速サイクルを達成できた要因についてOpenAIは、設計とレイアウトの最適化自体にOpenAIのAIモデルを活用した点を挙げており、AIがAIを動かすインフラ設計を高速化するフライホイール効果を実証しています。

OpenAIによる「Jalapeño」の発表は、NVIDIAに依存していた最先端AIインフラのパワーバランスを揺るがす決定打となります。自社モデルの推論パターンに合わせて最適化したチップは、高額な汎用GPUを並べるよりも大幅にコスト効率よくサービスを提供できるため、対話型・自律型エージェントの運用コスト低減が進み、安価で高度なAIへのアクセスが開かれます。