9月17日,在2026 ITValue Summit数字价值年会上,超聚变算力领域副总裁王梁栋指出,AI已进入以推理为主的“干活”时代,全球Token消耗将持续爆发,算力基础设施正经历底层变革。

数据显示,2026年3月中国日均Token调用量突破140万亿,相比2024年初的1000亿增长超千倍。摩根大通预测,中国AI推理Token消耗量将从2025年约10千万亿增至2030年约3900千万亿,五年增长约370倍。王梁栋表示,客户不再只聚焦单卡峰值算力,转而更看重集群单位时间稳定输出的Token量。

推理Token消耗五年增长370倍,意味着AI算力竞争已从训练峰值转向持续推理成本,8卡服务器架构面临被高吞吐推理集群替代的压力。

来源:行业发布会