通用AI智能体的核心难题，不是“能不能完成更多任务”，而是“在任务变复杂、环境不确定、结果需负责时，能否稳定完成”。能力决定上限，可靠性决定能否进入真实业务。近期受到关注的Manus已展示跨领域处理复杂任务的潜力，但其在事实性问题回答错误、信息引用不规范等方面暴露的问题，也说明通用能力与可信交付并不会自然同步增长。
能力不等于可靠性
智能体通常需要理解目标、拆解任务、调用外部信息并持续执行。链路越长，错误累积的可能性越高：一个未经核验的事实，可能影响后续判断；一次错误的任务分解，可能让执行过程看似完整，实际偏离目标。因此，评价智能体不能只看最终演示效果，还应观察其是否能够识别不确定性、说明依据，并在关键节点暂停确认。
可靠性首先来自边界设计。对于事实查询、内容生成和决策建议，应区分“直接执行”与“需要人工复核”的任务；对于涉及数据、资金、合规或公共影响的操作，则不宜让智能体仅凭自然语言结果自动完成。权限应按任务最小化配置，执行过程需要保留可追溯记录，异常时能够回退，而不是继续生成看似合理的答案。
用验证机制约束自主性
较稳妥的架构不是让智能体无限自主，而是把自主性放在可验证的流程中。任务开始前明确目标、输入范围和成功标准；执行中对关键事实进行交叉核验，对引用来源进行完整标注；输出前检查是否存在事实冲突、遗漏和越权行为。无法确认时，系统应明确表达不确定，而不是用流畅措辞掩盖缺口。
这也是人工智能立法受到重视的原因之一。数据确权、算法伦理和安全监管并非智能体之外的附加问题，而是决定其能否被信任的制度基础。真正成熟的通用智能体，应同时具备解决问题的能力和拒绝不当执行的能力：能做什么固然重要，但知道何时停下、如何证明、由谁负责，更决定它能走多远。