OpenAI首度公布Jalapeño晶片實測數據:700瓦效能對比輝達1400瓦GB300,宣稱每千瓦吞吐量最高提升1.9倍

Jalapeño 相對輝達 GB200/GB300 的效能與功耗優勢各有多少?

OpenAI的700瓦Jalapeño晶片,每千瓦吞吐量與延遲雙雙優於輝達(Nvidia)GB200、GB300。

依SemiAnalysis公開的InferenceX測試套件,OpenAI表示Jalapeño的每千瓦吞吐量達輝達GB200與GB300機架系統的1.5倍至1.9倍,端到端延遲則降低1.7倍至3.6倍CITE:E1CITE:E2。測試中的Jalapeño為700瓦規格,對照輝達GB200的1200瓦與GB300的1400瓦額定功耗CITE:E3。

OpenAI 的效能測試涵蓋了哪些模型與操作場景?

OpenAI的測試涵蓋GPT-OSS 120B、DeepSeek R1 670B與Kimi K2.5三個開源模型CITE:E4。

測試模型包括GPT-OSS 120B、DeepSeek R1 670B,以及Moonshot AI旗下、參數量達1兆的Kimi K2.5CITE:E4。在低延遲操作點,OpenAI宣稱其效率優勢擴大至每千瓦吞吐量8.6倍至104.3倍,對應輝達GB300此前最快的token間延遲(time-between-tokens)設定CITE:E5。

在實際功耗、不同電力計算方式與對手特性下,優勢如何變化?

OpenAI的Jalapeño晶片優勢,在改採不同功耗計算基準後明顯收斂。

OpenAI指出,Jalapeño在測試中的實測持續功耗維持在550瓦以下,低於700瓦的標稱值CITE:E6。若改採計入周邊設備的全公用電力比較,Jalapeño為每加速器1.18千瓦,GB300則為2.55千瓦,兩者差距因此縮小CITE:E7。當比較對象換成啟用多token預測(multi-token prediction)功能的GB300時,Jalapeño的峰值效率優勢降至約1.5倍CITE:E8。

第三方如何獨立驗證 Jalapeño 的效能地位?

SemiAnalysis表示Jalapeño擊敗其測試過的所有輝達、超微(AMD)與Google晶片。

SemiAnalysis指出,該機構與OpenAI工程師在OpenAI實驗室中共同執行InferenceX測試,並形容Jalapeño「擊敗我們測試過的每一款輝達、超微(AMD)與Google晶片」CITE:E9。

Jalapeño 在記憶體設計上的優勢與代價為何?

OpenAI的Jalapeño晶片,每顆封裝搭載6組HBM4堆疊,總容量216 GiB、頻寬15.4TB/s。

Jalapeño於今年6月正式公開,歷經9個月的RTL到流片(tape-out)開發週期,每個封裝配置6組高頻寬記憶體(HBM4)堆疊,總容量216 GiB,頻寬達每秒15.4TBCITE:E10。對照之下,輝達GB300搭載288GB的HBM3E記憶體、額定功耗1,400瓦;若以每瓦額定功耗換算記憶體容量,Jalapeño比GB300多出約50%CITE:E11。不過美光(Micron)在Hot Chips會議上表示,以同等容量計算,HBM晶粒佔用的晶圓面積約為DDR5的3倍,且此代價會隨世代推進而擴大CITE:E17。

OpenAI 與博通的合作架構與9個月開發週期是什麼?

OpenAI與博通(Broadcom)去年10月簽署10吉瓦(GW)客製AI晶片部署協議。

Jalapeño晶片由OpenAI與博通共同開發,今年6月公開發布前歷經9個月的RTL到流片開發週期CITE:E10。若將Jalapeño擴大部署至OpenAI與博通去年10月簽署的10GW部署協議規模,OpenAI將成為HBM4供應的重要新增需求方CITE:E16。

部署計畫、實際規模與現有測試的盲點在哪裡?

OpenAI計劃今年稍晚開始在自有數據中心部署Jalapeño晶片。

OpenAI表示將於今年稍晚開始在自有數據中心部署該晶片CITE:E12。但此次測試並未涵蓋輝達的Vera Rubin平台,該平台預計於2026年下半年為OpenAI部署首個1吉瓦系統CITE:E20。

OpenAI 為何同時投資輝達與自研晶片?

OpenAI一邊接受輝達最高1,050億美元的數據中心融資,一邊持續推進自研晶片。

今年8月17日,輝達同意為OpenAI承租的俄亥俄州數據中心園區提供最高1,050億美元的融資CITE:E13。OpenAI硬體副總裁Richard Ho在公告後接受Bloomberg採訪時表示:「輝達是非常好的夥伴,我們仍然需要大量輝達的產品。」CITE:E14據Bloomberg報導,Jalapeño的第二代晶片即將於數月內流片,第三代的概念設計工作也已展開CITE:E15。

HBM供應鏈短缺會如何限制 Jalapeño 的規模化前景?

三星電子、SK海力士與美光的HBM產能已預售至2027年。

三星電子(Samsung Electronics)、SK海力士(SK Hynix)與美光三大記憶體廠的HBM產能已售罄至2027年,短缺程度嚴重到據報輝達正在測試縮減版的Rubin Ultra配置CITE:E18。SK海力士執行長郭魯正(Kwak Noh-jung)警告,2027年將是這波HBM短缺最嚴重的一年CITE:E19。

這代表什麼

把三段功耗計算基準並列可看出,Jalapeño的效率優勢並非單一數字:標稱功耗下為1.5至1.9倍,全公用電力基準下明顯收斂,對比啟用多token預測的GB300時再降至約1.5倍,且測試尚未涵蓋輝達下一代Vera Rubin平台。與此同時,OpenAI一邊向輝達取得最高1,050億美元融資、由其硬體副總裁公開表態仍需要大量輝達產品,一邊推進與博通的10GW自研晶片協議與第二、三代開發;而Jalapeño擴大部署所需的HBM4,將疊加在三星電子、SK海力士、美光已售罄至2027年的HBM產能之上。