英伟达宣布Groq 3 LPX全面量产,Vera Rubin平台推理效率最高提升30倍

【软盟资讯 · 快讯频道】8月25日,据财联社报道,英伟达高级总监Dion Harris宣布,Groq 3 LPX机架已进入全面量产阶段,将与其Vera CPU和Rubin GPU一同部署在新型云服务商Nebius的数据中心,于今年晚些时候上线。**Groq架构在芯片裸片上集成了500兆字节的高速SRAM,以减少与内存相关的瓶颈。每一个LPX机架可整合256颗Groq 3,据英伟达援引Artificial Analysis基准测试数据,整合后的机架每秒可处理3400个Token。在SemiAnalysis AgentX工作负载下,Vera Rubin NVL72每兆瓦吞吐量最高达到GB300 NVL72的30倍,对应每Token成本最高降低35倍。英伟达强调,这一提升并非单纯”速度提升30倍”,而是每兆瓦电力能完成更多智能体工作——对于电力和数据中心资源日益成为AI扩张瓶颈的当下,提高单位电力产生的Token数量,可能比单纯提高峰值算力更加重要。英伟达正在把Vera Rubin从”GPU集群”升级为覆盖计算、网络、存储和软件协同设计的完整AI工厂平台,涵盖Rubin GPU、Vera CPU、Groq 3 LPX、BlueField-4 DPU等七款芯片和五种专用机架。英伟达CEO黄仁勋此前预计,到2027年,Blackwell芯片和Vera Rubin系统的累计销售额将达到1万亿美元。

软盟点评: 英伟达Groq 3 LPX的全面量产,标志着AI芯片竞争从”谁算力更强”进入”谁每瓦特更高效”的新阶段。在智能体时代,AI工作负载的Token消耗量可以达到简单聊天请求的15倍——这意味着算力需求正在从”单次推理”向”持续消耗”转变,电力成本成为比芯片成本更紧迫的约束。英伟达将衡量标准从”峰值算力”转向”每兆瓦吞吐量”,本质上是在承认:AI基础设施的瓶颈已经从”芯片不够多”变成”电不够用”。Vera Rubin平台七款芯片协同设计的异构架构,则揭示了英伟达的下一阶段战略——不再只卖GPU,而是卖”整座AI工厂”。当芯片厂商开始卖数据中心,竞争格局将被彻底改写。

上一篇:

下一篇:

发表回复

登录后才能评论
分享本页
返回顶部