当地时间8月25日,OpenAI在Hot Chips大会上公布了自研推理芯片Jalapeño的实测成绩单。数据显示,该芯片在吞吐量、能效及延迟三项关键指标上全面超越英伟达的GB200与GB300系列。
具体对比方面,单用户出词速度上,Jalapeño达到每秒1459个Token,而GB200仅为535个;完成同一任务时,Jalapeño耗时1.65秒,GB300则需5.99秒。功耗表现尤为直观,Jalapeño标称功耗700瓦,实测持续功耗控制在550瓦以内,远低于GB200的标称1400瓦。著名半导体分析师Dylan Patel更是直言,此次测试不仅掀翻了Blackwell架构,甚至暗示英伟达未来的Rubin芯片也被超越。这些数据基于SemiAnalysis的InferenceX基准,覆盖GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T等公开模型。结果显示,每瓦AI工作负载性能提升1.5至1.9倍,端到端延迟降低1.7至3.6倍,在高度交互式负载下优势甚至扩大至2.1至4.1倍。
值得一提的是,从设计到流片,OpenAI仅耗时9个月,远低于行业平均的18至36个月。其核心秘诀在于引入了自家最强模型GPT-Astra(外界传闻的GPT-6)和Codex参与芯片设计。AI辅助设计使得SIMD单元面积缩减8%,矩阵引擎面积缩减10%,在注意力与MoE模块的代码生成上,AI生成的速度比人类专家快1.5到1.8倍。这种“AI设计芯片,芯片跑AI,AI再优化芯片”的闭环飞轮效应已初步形成。
硬件规格同样逼近极限。主计算Die面积约840平方毫米,距离EUV掩模版极限858平方毫米仅差18平方毫米。该芯片配备6颗HBM4,总容量216GiB,带宽15.4TB/s,每瓦HBM带宽达到22,远超第二名Rubin的11.1和GB300的5.71。成本方面,SemiAnalysis估算其每小时总拥有成本为1.56美元,与H100基本持平,低于Vera Rubin的3.61美元。这是OpenAI与博通合作的产物,双方去年10月签署了10GW定制加速器大单。量产计划于2027年启动,初期爬坡至100兆瓦,Gen2代芯片已深度开发,Gen3代正在成型,预计2026年底将率先部署进OpenAI自有的数据中心。
鉴于英伟达Rubin芯片比Jalapeño早一个月完成CoWoS流片,但OpenAI选择公开第三方测试数据,SemiAnalysis大胆预测CUDA的护城河可能已经失效。然而,这种“掀桌”行为并未切断OpenAI与英伟达的合作纽带。8月17日,英伟达同意为OpenAI俄亥俄州数据中心园区提供最高1050亿美元融资,OpenAI也承诺在2026年下半年部署首批1吉瓦英伟达Vera Rubin系统。OpenAI芯片负责人Richard Ho直言,英伟达仍是极佳的合作伙伴,公司仍需大量英伟达芯片。这一切发生在英伟达财报发布前的关键节点,市场将重点关注Blackwell放量进度、Rubin研发状况以及OpenAI算力承诺的会计处理。
