从"谁回答得更好"转向"谁能把任务真正做完",是过去一年里 AI 智能体赛道最明显的变化。对需要选型的企业管理者、产品经理和开发者来说,厂商宣传页上的能力清单和 Demo 演示并不足以支撑决策,真正值得关心的是:一个智能体能否在没有人工逐步兜底的情况下,自主拆解并走完一条需要多轮工具调用的长流程。为此,我们设计了一套可复现的多步任务测试集,用统一的任务、统一的评分维度横向比较通用型 AI 智能体的真实表现。需要说明的是,本文所有结论都来自我们设定的测试任务,而非厂商榜单或未经核实的性能数据;涉及具体产品版本与价格的时效信息,请以官方文档为准。

AI智能体执行网页操作、数据整理与工具调用多步任务的示意图

为什么要用统一测试集,而不是看厂商数据

任务编排能力,本质上是智能体在接到一个模糊、多步骤的指令后,能自动将其拆解为子任务、规划执行顺序、调用相应工具完成操作,并验证结果是否达标的能力。它与传统 RPA 最大的区别在于:传统 RPA 需要人工预先设计好每一步的流程图,而具备任务编排能力的智能体可以"零设计"地自主生成流程。

问题在于,市面上多数智能体在任务规划上存在短板——要么只能拆解成"伪步骤"(实际仍需人工执行),要么规划过于僵化,无法适应变化。单看厂商提供的性能数字,很难分辨这些差异。所以我们选择用一套固定任务让不同智能体跑同样的流程,用完成率、步骤稳定性、耗时与可控性四个维度做横向打分,这样得到的结论才具备可比性与可复现性。

四类通用智能体与测试任务设计

从技术路线出发,当前的通用型智能体大致可以归为四类:

  • 云端多智能体并行型:以多个 sub-agent 分工协作完成检索、整理、核验,代表路线如 Manus。
  • 桌面/本地操控型:通过屏幕语义理解在本地环境模拟人工操作软件界面,强调能像人一样"看懂"屏幕元素。
  • 浏览器自动化型:聚焦网页端的信息抓取与表单填写,围绕浏览器操控构建能力。
  • 工具编排/框架型:以调用外部 API、脚本和工具链为核心,强调流程的可编排与可控。

测试集包含三类统一任务,覆盖了多步执行最典型的三个环节:

任务类型具体内容考察重点
网页信息抓取与填写从指定页面抓取结构化信息并回填到表单/表格网页操作稳定性、反爬与登录态处理
跨表格数据整理合并多源数据、清洗异常值、做分组聚合分析数据处理准确性、聚合逻辑是否可靠
调用外部工具完成计算与检索自主选择并调用工具完成计算、检索与交付多轮工具调用的规划与闭环能力

实测观察:三类任务里谁更稳

在跨表格数据整理这类任务上,云端多智能体路线表现突出。以 Manus 为例,面对一份数千行销售 CSV 和"按地区/品类做月度趋势分析、标出下滑品类并给原因假设"的提示,它能自动拆成数据清洗、分组聚合、可视化、归因四步,交付含透视表的表格与多张图表。抽查聚合值时大部分准确,个别因原始数据格式问题算错的,它会在报告里主动标注"待核实"——这种自我标注异常的习惯,正是生产可用性的加分项。多个 sub-agent 并行完成"检索+整理+核验",也在一定程度上避免了单一模型边搜边写导致的幻觉。

但在网页信息抓取环节,云端路线的短板暴露得很明显。由于运行在云端环境、缺少本地 cookie 和登录状态,智能体难以绕过电商平台的反爬机制,也无法完成必要的验证流程。这正是桌面/本地操控型路线的用武之地:它通过屏幕语义理解自动标注"提交按钮""金额输入框"等界面元素,像人一样在本地环境里逐步操作,天然规避了云端抓取的登录态难题。两条路线在同一任务上的强弱几乎是互补的。

工具调用类任务最能拉开差距。能真正跑通的智能体会把一句口语化指令映射成完整的步骤序列——比如把"整理订单并发给销售总监"规划为"登录→查询→导出→格式化→写邮件→发送"并逐个执行;而规划能力弱的智能体往往止步于把数据列成表格,最后仍需人工复制粘贴到文件里,所谓"自动化"大打折扣。

中断与报错时的恢复能力,决定了能不能上生产

比完成率更能区分产品的,是出错后的恢复与纠错能力。我们在测试中故意制造信息缺失和中间步骤报错,观察智能体的反应。

表现较好的智能体会在聚合出错时主动标注待核实、在抓取失败时切换策略或向用户求助;而表现差的则会在同一个报错上反复重试却不改变方法。一个典型案例是 Manus 的 Web App Builder:面对"做一个带登录的 Todo SaaS 并部署上线"的任务,它生成了前端和数据库配置,但在部署环节因数据库连接串格式问题报错,反复重试三次仍失败,最终只给出一个本地可跑但未部署的半成品。这印证了一个被反复验证的结论——复杂场景下的智能体"看起来很有前景,但 bug 多到还不能直接上生产"。

这类"陷入重试循环而非换思路"的失败模式,是当前通用智能体的通病,也是 Demo 演示与生产可用之间最真实的鸿沟。

选型建议:按场景匹配,而非追求全能

综合四个维度看,没有一类智能体能通吃所有场景,务实的做法是按任务特征匹配路线:

  • 以数据分析、调研报告为主的场景,优先考虑云端多智能体并行型,它在检索整理与核验上的闭环最成熟。
  • 涉及登录态、反爬、本地软件操作的流程,桌面/本地操控型更可靠。
  • 需要稳定复用、可审计可控的企业流程,工具编排/框架型的可控性更有保障。
  • 任何涉及部署上线、复杂全栈的任务,目前都不建议交给通用智能体一键完成,仍需人工把关关键环节。

对企业而言,评估一个智能体时,与其盯着它在 Demo 里完成了什么,不如关注它在报错和信息缺失时怎么处理——能主动标注不确定、能换方法、能及时交回控制权的,才是离生产更近的那一个。

【软盟资讯观察】

从趋势判断看,智能体的竞争焦点已经从"规划得对不对"转向"执行得稳不稳"。我们的实测印证了一个共识:当前主流大模型在任务理解和拆解上已相当成熟,国内外产品的规划路径甚至惊人地一致,真正的差距落在执行链路的稳定性、工具调用的闭环能力,以及出错后的恢复机制上。这意味着从 Demo 到生产的拐点,不会由某一次参数突破决定,而取决于工程层面的可靠性积累。

从机会与风险看,分化已经出现:数据整理、调研核验这类"信息密集但操作可控"的垂直场景,最有希望率先跑通商业化;而涉及部署上线、跨系统写操作的复杂流程,短期内仍充满 bug 风险,贸然上线可能带来数据或业务事故。对企业落地来说,务实路径是先在低风险、高频、可回滚的环节试点,用人工兜底关键步骤,用统一测试集持续回归验证,再逐步扩大授权边界。把智能体当成"需要监督的新员工"而非"即插即用的全自动系统",才是现阶段最稳妥的用法。