个人智能体的可靠性，不能只看“回答是否正确”，还要看它能否在真实约束下持续完成任务、遵守权限，并在失败时及时停止或恢复。对能调用工具、读写数据或跨应用执行操作的智能体，一次看似正确的结果，可能掩盖过程中的越权、误操作和不可复现问题。评估对象应是完整任务链，而不只是模型输出。
从任务链定义评估
先把智能体的使用范围写清楚：它要完成什么，依赖哪些信息，哪些操作必须征得用户同意，哪些情况应转交人工。随后整理覆盖常见路径与边界情况的任务集，例如信息不足、指令含糊、工具返回异常或用户中途改变目标。测试样本应来自预期使用场景，并定期更新；只测顺利完成的案例，会高估实际可靠性。
每次评估至少记录四类结果：任务是否达成、关键步骤是否正确、是否遵守权限边界、失败后是否能识别问题并安全退出。还应记录是否需要人工介入，以及介入发生在哪一步。对个人智能体而言，未经授权的操作即使没有造成明显损失，也应作为严重缺陷单独统计，不能被大量正确回答稀释。
用重复测试发现不稳定
同一任务应在不同表达、上下文和运行条件下重复测试，观察结果是否一致。平均完成率不足以说明安全：少量高风险失误，可能比更多低风险小错更值得优先处理。因此，应按后果区分错误等级，并分别审查成功率、权限违规、误执行与安全停止表现。
可靠性评估也不是上线前的一次考试。每当提示、记忆、权限或工具流程发生变化，都应回测关键任务；上线后则持续收集失败样本，确认问题是来自意图理解、信息缺失还是执行环节。只有把“做成了什么、如何做到、失败时发生什么”同时纳入判断，个人智能体的可靠性才有可复核、可改进的依据。