推理成本下降，正在改变智能体产业的成本结构，但很多企业的预算模型还停留在“每百万Token多少钱”的阶段。这个视角的偏差在于，模型单次调用价格只是整个项目成本的一个切片。一个智能体任务往往包含多轮推理、上下文读取、工具调用、检索增强、结果校验和失败重试，单次价格下降后，企业反而可能增加上下文长度、调用次数和自动化环节，最终出现“单价下降、总调用量上升”的情况。真正影响ROI的，是单项任务的全流程成本，而不是报价单上的模型单价。
要建立可用的成本模型，至少应拆成四层来看。第一层是模型推理，包含输入与输出Token、模型调用次数，容易被忽略的是上下文膨胀、重试和并发峰值。第二层是AI基础设施，包括GPU或云服务、存储、网络和向量数据库，空闲资源、数据传输和弹性扩容往往不在最初的预算里。第三层是业务系统，即API、企业软件、浏览器或代码执行工具，第三方接口调用和授权费用是隐性支出高发区。第四层是运维与治理，监控、评测、人工兜底、安全审计，以及模型升级后的回归测试和故障处理，这些长期成本最容易被低估。
更稳妥的做法是先建立单任务成本，再推算月度预算。单任务总成本等于模型推理费、工具调用费、基础设施分摊、运维治理分摊和人工兜底成本之和；月度成本则是单任务总成本乘以月任务量，再加上固定投入。关键在月任务量不能只看平均值，要拆分工作日、峰值时段和异常任务。客服、销售线索处理、代码审查等场景，任务复杂度差异很大，用一个平均数容易低估预算。企业至少应记录每项任务的平均调用次数与峰值调用次数、输入输出和检索上下文的Token消耗、工具调用成功率与失败重试率、自动完成率与人工接管率、单任务耗时与并发峰值，以及任务完成后带来的收入、节省工时或风险降低金额。
低价背后往往转移了三类支出。一是调用量增加，推理成本下降后，企业更容易把原本由人工完成的判断拆成多个智能体步骤，模型价格更低，但调用链条变长，Token总量和工具调用次数同步上升，多智能体架构尤其容易陷入重复推理。二是基础设施和数据成本上升，低价模型推动更高的使用频率，向量检索、日志存储、数据清洗、网络传输和高峰期扩容成本随之增加；自建算力也不是“买卡之后免费使用”，设备折旧、机房或云资源、备份、监控、工程师人力都要纳入核算。三是治理与人工兜底不能省略，智能体的输出错误可能影响合同、财务、客户沟通和内部权限，提示词管理、评测集建设、权限隔离、敏感数据处理、审计留痕和人工复核都需要预算；如果关键环节仍依赖员工检查，这部分人工成本应明确记录，而不是归为零成本自动化。
可复用的ROI核算可以按“基线—试点—扩展”三个阶段推进。先建立人工基线，记录现有流程的人员数量、处理时长、错误率、外包费用和响应周期，没有基线就无法判断智能体带来的真实增量。再选择任务边界清晰、数据质量较高、风险可控的场景做小规模试点，重点不是展示模型能力，而是获得真实调用量、失败率和人工接管率。最后计算有效收益，即节省人工成本加上新增业务收益和风险损失减少额，再减去智能体总成本；其中新增业务收益和风险损失减少额应采用保守口径，无法证明的潜在收入不宜直接计入收益。采购时还应追问计费方式是按Token、请求次数还是按任务计费，是否存在上下文、并发、速率和最低消费限制，模型升级后调用效果和费用是否变化，数据是否用于训练、日志保存多久、权限如何隔离，以及超时或模型不可用时是否有备用方案。
推理成本下降的真正价值，是让更多细分任务具备试算和验证条件。竞争焦点会从“谁的模型更强”转向“谁能以更少调用完成稳定任务”，而企业管理者最大的风险，仍是把模型单价当成项目总价，把演示中的自动化率当成实际ROI。只有将算力、Token、系统接口、人工兜底和长期治理统一纳入成本模型，智能体部署才不会停留在概念验证阶段。