OpenAI、Nvidia Blackwellを凌駕する推論チップ「Jalapeño」を発表

OpenAIは、LLM推論専用にゼロから設計されたカスタムASIC「Jalapeño」を発表した。2024年初頭に設計を開始し、約16ヶ月で製造テープアウトという異例の速さで開発された。Nvidia、AMD、Googleの既存チップを上回る性能を示し、特に電力効率(perf/W)において優れている。HBM4を採用し、Broadcomと提携して製造された。OpenAIは、データセンターの電力制約から電力効率を最優先しており、Jalapeñoは1ワットあたりのトークン生成能力で競合を凌駕する。アーキテクチャ的には、汎用性を重視し、特定のモデルに特化せず、様々なワークロードに対応する。ソフトウェア面では、Codexを活用してカーネル開発を高速化しており、Tritonベースのプログラミング言語「Gluon」を使用している。現時点ではエンジニアリングサンプル段階だが、2027年にかけて生産が段階的に増加する見込みである。