智能体的长期记忆不是“把对话保存得越多越好”,而是对业务上下文进行持续、可控的管理。真正需要治理的,不只是记住什么,还包括为什么保存、保存多久、谁可以访问、何时更新,以及错误信息如何被纠正和删除。若缺少这些边界,记忆能力越强,错误固化、隐私泄露和权限扩大的风险越高。
记忆边界首先是内容边界
企业应将智能体接触的信息至少区分为三类:已经确认的业务事实、模型基于上下文作出的推断,以及仅在当前任务中有效的临时信息。三者不能使用同一套保存策略。
客户偏好、员工信息、项目资料和内部规则的敏感程度不同,不能采用“默认全部记忆”。一次对话中的猜测,不应自动升级为长期事实;过期规则也不能因为曾经正确,就持续影响后续决策。对于涉及身份、权限、合同、财务或客户关系的信息,保存前应明确授权范围和业务用途。
记忆治理要覆盖完整生命周期
长期记忆至少应具备以下控制能力:
- 写入控制:明确哪些信息允许保存,哪些信息只能临时使用。
- 访问控制:根据用户身份、业务角色、任务上下文和操作权限限制读取范围。
- 更新控制:发现事实变化或信息冲突时,能够修正旧记忆,而不是简单叠加。
- 删除控制:支持按内容、对象或业务关系删除,并保留必要的操作记录。
- 追溯控制:能够说明某项记忆何时产生、由何种信息支持、被哪些任务调用。
这些能力不能只依赖模型自行判断。模型可以提出“应当记住”的建议,但最终写入、读取和删除应由系统权限、数据规则和审计机制约束。
验收重点是“记错之后怎么办”
长期记忆的测试不能只验证召回是否准确,还要专门构造缺字段、冲突信息、过期资料和未经授权的请求,观察智能体是否会主动澄清、拒绝使用或转交人工。尤其要检查错误记忆是否会在多个任务中持续传播,是否能被及时纠正,以及删除后是否仍通过其他上下文间接调用。
企业可以把验收分为三层:内容是否正确,访问是否合规,过程是否可追溯。对于会影响合同、付款、客户权益或内部决策的记忆,不宜直接触发自动执行。一个成熟的长期记忆系统,不是让智能体记住更多,而是让每一条记忆都具备明确的来源、权限、期限和退出机制。