从训练转向推理:企业如何评估Prefill与Decode分离的AI算力架构?
智能体应用把企业的 AI 推理从“把模型跑起来”变成了“持续处理复杂任务”。一次请求可能包含长篇文档、工具调用结果、历史对话和外部检索内容,输入处理时间、首个 Token 延迟、后……
标签"智能体应用"下的所有文章

智能体应用把企业的 AI 推理从“把模型跑起来”变成了“持续处理复杂任务”。一次请求可能包含长篇文档、工具调用结果、历史对话和外部检索内容,输入处理时间、首个 Token 延迟、后……

智能体AI的算力瓶颈,往往不在模型完成一次矩阵计算需要多少GPU,而在于它能否稳定完成一连串“观察—推理—调用工具—读取数据—再次推理—执行动作”的任务。对企业而言,服务器采购如果……

制造业里的人工智能,真正的分水岭不是“能不能回答问题”,而是能不能接住一项业务任务,并推动它完成。北汽福田把“长超小福”放进工厂群组,让它处理报表、派发任务、跟进巡检和协助开单;中……

GPT-6 Astra 的发布价值,不应只用“榜单第一”来衡量。对企业而言,更关键的问题是:它在高难度科学推理上的优势,能否转化为业务准确率;低成本设置下相对 GPT-5.6 So……

【软盟资讯·新闻导读】DeepSeek原计划于北京时间2026年9月10日前后发布V4.1 Flash,9月10日已正式发布并启用新定价。官方称该模型在性能、费用、速度和总用时等方……

【软盟资讯·新闻导读】2026年外滩大会释放出一个明确信号:生活服务智能体正从“能聊天”走向“能办事”。以蚂蚁阿宝为代表的平台,开始连接餐饮、出行、文旅、政务等服务,统一入口的竞争……

【软盟资讯·新闻导读】2026外滩大会以“共创AI新经济”为主题,围绕“智能跃迁、经济重构、人本未来”展开讨论。展区里,AI被放进商业连接、家庭健康、支付、药房、制造和巡检等场景,……

【软盟资讯·新闻导读】9月9日,京东在全球科技探索者大会相关活动中展示AI购物助手“东东”,并发布京东APP 16.0。此次变化的关注点,不只是增加一个推荐入口,而是购物智能体是否……

【软盟资讯·新闻导读】Meta面向美国成年用户推出个人AI智能体Muse,覆盖购物、预约、购票、填表等事务,并可连接邮件、日历等服务。它试图把AI从“给建议”推进到“替用户办事”,……

【软盟资讯·新闻导读】Meta面向美国成年用户推出个人AI代理Muse,能够协助购物、购票、预约、填表,并连接部分邮件、日历和第三方服务。它让AI从“回答问题”进一步走向“代办事务……