从训练转向推理:企业如何评估Prefill与Decode分离的AI算力架构?
智能体应用把企业的 AI 推理从“把模型跑起来”变成了“持续处理复杂任务”。一次请求可能包含长篇文档、工具调用结果、历史对话和外部检索内容,输入处理时间、首个 Token 延迟、后……
标签"大语言模型"下的所有文章

智能体应用把企业的 AI 推理从“把模型跑起来”变成了“持续处理复杂任务”。一次请求可能包含长篇文档、工具调用结果、历史对话和外部检索内容,输入处理时间、首个 Token 延迟、后……

企业做模型选型时,最容易犯的错误不是“选错了某个模型”,而是把所有任务都交给同一种模型。复杂科学计算、代码调试和多步数学问题,通常更需要推理模型;分类、抽取、改写、知识库问答和端侧……

【软盟资讯·新闻导读】OpenAI在Hot Chips 2026展示自研推理加速器Jalapeño,并公布首批测试结果。与单纯追求峰值算力不同,这款芯片把每瓦吞吐、端到端延迟和交互……

【软盟资讯·新闻导读】9月10日,财跃星辰在2026 Inclusion·外滩大会披露,与中泰证券共建“星璇”多智能体投研平台,并通过Skill Hub技能库整合现有投研工具。此次……

【软盟资讯·新闻导读】美国国家安全局、联邦调查局与网络安全和基础设施安全局9月8日联合发布警告,指控六家中国AI企业至少自2024年起,以工业化规模对美国模型开展知识蒸馏。事件正把……

9月9日,市场传出重磅消息:中国大模型头部企业DeepSeek(深度求索)已委托中信证券筹备科创板首次公开发行(IPO)。软盟资讯从知情人士处核实,该消息属实。目前,中信证券已与D……
2026年,内容创作成本正被一批免费AI智能体平台系统性击穿。软盟资讯历时近一个月,实测扣子、文心智能体平台、百度秒哒、腾讯元器、讯飞星火、Dify六款平台,验证其从选题策划、长文……
2026年8月27日,Anthropic开放模型硬件标准(MHS)研究预览,业界称之为“硬件版MCP”,Claude等AI智能体首次可经标准接口安全操控显微镜、液体处理器、机械臂乃……

2026年8月,AI智能体与大模型赛道迎来“代际共振”:阿里Qwen3.8、腾讯混元Hy4、智谱GLM-5.3、DeepSeek V4系列密集迭代,OpenAI以GPT-5.6 S……
【软盟资讯】AI短剧《被裁掉的女孩》以3人核心团队、单集约1万元算力成本,在抖音创下超2.2亿播放、全网话题讨论量超8亿的现象级战绩,虚拟演员方桃子出道30天涨粉近40万并登《时尚……