OpenAI在Hot Chips大会公布自研推理芯片Jalapeño细节:每瓦性能超英伟达GB300达1.9倍

【软盟资讯 · 快讯频道】8月25日晚间,OpenAI在Hot Chips 2026大会上正式公布了与博通共同开发的推理芯片Jalapeño的详细技术细节及基准测试成绩。**在SemiAnalysis的InferenceX测试中,Jalapeño在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个模型上,每瓦能够完成的AI工作量是英伟达GB200和GB300系统的1.5至1.9倍,端到端延迟则约为对比系统的28%至59%。OpenAI硬件负责人Richard Ho表示,Jalapeño同时具备高吞吐量和低延迟性能,在700瓦低功耗下即可实现强劲性能,有助于降低数据中心电力成本。Jalapeño从设计之初就重点降低预填充和通信阶段的延迟——这两个环节在OpenAI看来是推理性能的主要瓶颈。OpenAI通过全栈协同开发,使AI产品、模型、芯片和内存从一开始就协同设计,系统可根据不同推理阶段调配合适的计算、内存和网络资源。OpenAI计划在今年年底前先小规模部署Jalapeño,2027年再逐步扩大部署量。Richard Ho强调,OpenAI对算力需求极为庞大,未来一段时间仍将与多家供应商合作,英伟达仍是重要合作伙伴。与此同时,第二代Jalapeño已进入较成熟阶段,第三代芯片也已启动概念设计。

软盟点评: OpenAI Jalapeño芯片的基准测试成绩,是AI芯片竞争格局的一个分水岭时刻。每瓦性能超越英伟达GB300达1.9倍,意味着在同等电力消耗下,Jalapeño可以处理近两倍的AI工作负载——在电力成本日益成为AI基础设施瓶颈的当下,这个优势极具战略价值。更值得关注的是OpenAI的”全栈协同”设计理念:模型、芯片、内存从一开始就协同设计,而非将芯片作为独立硬件来开发。这种”为自家模型定制芯片”的模式,正在打破英伟达”通用GPU统治一切”的格局。但Jalapeño目前仅针对推理阶段,不涉及训练——而训练正是英伟达的核心优势领域。AI芯片的”群雄逐鹿”时代,才刚刚拉开序幕。

上一篇:

下一篇:

发表回复

登录后才能评论
分享本页
返回顶部