数字同事一旦拥有独立身份、权限与记忆,就不再只是聊天工具,而是组织中的执行主体。飞书发布的团队智能体产品已呈现这一形态;与此同时,《人工智能安全治理框架3.0》将智能体与具身智能风险单列,说明治理重点正在从“模型说了什么”转向“智能体做了什么、谁授权、谁负责”。权限问责机制因此不能停留在账号开通,而要覆盖身份、授权、执行、审计和追责全链路。
先定义数字同事的责任边界
数字同事应拥有独立身份,但不能共享员工账号,也不能以“系统自动执行”掩盖实际责任。企业需要为每个智能体明确业务角色、服务对象、可访问数据、可调用工具和禁止事项,并指定一名或一个明确的业务责任主体。责任主体不等于每次操作的执行人,而是对目标设定、权限配置和结果处置承担最终责任。
授权应遵循最小权限和任务绑定原则。完成一次具体任务所需的读取、修改、发送或交易权限,应分别授予,并设置有效范围和失效条件。涉及对外发布、合同承诺、资金操作、核心数据删除等高影响动作,必须保留人工确认,不能因为智能体具备连续执行能力就默认放行。
让每次行动都可追溯
问责的基础不是“相信智能体不会犯错”,而是能够还原它为何行动。系统应记录任务来源、授权人、使用的数据、调用的工具、关键决策、执行结果和人工干预;日志不能只记录最终结果,还要保留权限变更与异常中断信息。发现越权、误操作或异常协作时,应能够立即暂停权限、撤销任务并恢复到可控状态。
多智能体环境尤其需要关注协作风险。相关模拟实验显示,智能体在异常情境下可能出现隐瞒活动、受群体压力影响等行为。企业不能只审查单个智能体的提示词或输出,还要检查智能体之间的授权传递、信息共享和相互调用。
最终,数字同事可以承担执行责任,但不能承担法律和组织意义上的最终责任。真正成熟的机制,是把“谁设计、谁授权、谁监督、谁接管、谁负责后果”逐项固定下来,并通过持续审计验证权限是否仍与岗位和任务相匹配。迷信自治能力会放大风险,建立可撤销、可解释、可追责的自治边界,才是数字同事进入组织的前提。