OpenAI 宣布其新款 Jalapeño 芯片在测试中表现优于英伟达目前的芯片产品线,凸显了该公司在自主研发 AI 处理器方面取得的显著进展。芯片负责人 Richard Ho 表示,该芯片在单位功耗下的 AI 处理能力以及响应速度上均领先于竞争对手——英伟达的 GB300。作为与博通合作开发的成果,Jalapeño 计划于今年晚些时候开始部署,旨在帮助 OpenAI 降低庞大的基础设施成本。
在技术层面,Jalapeño 芯片主要针对人工智能的“推理”阶段进行优化,而非训练。测试结果显示,该芯片在高吞吐量(服务更多客户)和低延迟(快速响应)领域均表现出色。使用 SemiAnalysis 的 InferenceX 基准测试工具进行评估后,Jalapeño 在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 等模型上均实现了优异表现。具体而言,其每瓦峰值性能比对比系统高出 1.5 到 1.9 倍,端到端延迟降低了 1.7 到 3.6 倍。这种性能在处理 Kimi 等大型模型时尤为显著,表明该架构随着工作负载规模的扩大而更具价值。
与其他仅擅长单一领域的芯片不同,Jalapeño 兼具高吞吐量和低延迟的优势。其设计核心在于系统一体化,通过将模型状态保存在本地并最小化数据移动,有效解决了传统硬件在预填充和解码阶段之间的性能权衡问题。这种设计不仅降低了运行功耗(额定功率 700 瓦,测试中常低于 550 瓦),还能在满足用户对快速响应需求的同时,提高单位功耗的产出效率。
OpenAI 在开发 Jalapeño 的过程中,充分利用了自身的人工智能技术。从设计到流片的九个月内,OpenAI 的模型帮助团队探索了各种实现方案,并利用 Codex 和 GPT-Astra 等工具优化了算术电路和代码编写。AI 甚至帮助团队实现了原本不在生产计划中的开源模型的高性能运行,证明了其架构的灵活性和 AI 辅助编程的强大能力。
尽管自研芯片表现亮眼,但 Ho 也表示,OpenAI 仍视英伟达为重要的合作伙伴,将继续采购其产品用于训练和推理。目前,OpenAI 正在构建多代芯片路线图,第二代芯片开发已接近尾声,第三代也在成型中。与此同时,市场上如 Etched 和 MatX 等初创公司也在研发类似的自研芯片。随着 Jalapeño 的广泛应用,OpenAI 有望进一步降低成本,为用户提供更快速、更智能且更经济的 AI 服务。
