AI推理

采购AI推理基础设施不能只看芯片峰值算力，应在指定模型、并发和输入输出长度下，围绕有效吞吐、首Token时延、P95/P99、稳定性、软件兼容性、能耗与单位成本，按真实业务负载验收完整推理系统。

高通与亚马逊宣布多代定制AI芯片合作，重点面向AWS云端推理场景，到2029财年相关信息规模达150亿美元。双方还将开发1.6T高速光互联方案。此举反映云厂商通过定制芯片和供应商多元化重塑AI数据中心竞争格局，从提供算力转向以更合适方式提供算力。

彭博社援引知情人士消息称，DeepSeek计划在乌兰察布数据中心部署至少16万颗华为昇腾950DT芯片用于推理，若落地将成为已知规模最大的国产AI芯片集群之一。此举或推动国产算力从“能用”走向大规模商业化验证，但交付周期、集群稳定性和商业效果仍待检验。