最高法明确AI深度合成侵权边界：企业如何管理人脸、声音克隆与虚假信息风险？

【软盟资讯·新闻导读】9月7日，最高人民法院发布涉及人工智能纠纷的指导内容，回应了AI换脸、声音克隆、人工智能生成虚假信息、算法价格歧视等争议。核心变化不在于“AI能不能生成”，而在于企业是否有权使用相关身份特征、是否经过必要审核，以及生成内容发布后能否说明责任来源。对创业者和AI产品负责人而言，授权、审核、留痕和处置机制，正在成为产品上线前必须完成的基础工作。

最高法释放的关键信号：生成能力不等于使用权

据公开报道，最高人民法院于2026年9月7日发布相关指导内容，聚焦人工智能发展过程中出现的多类新型纠纷。资料显示，相关内容包括AI生成的换脸与声音克隆、人工智能生成虚假信息、算法价格歧视、自动驾驶以及人工智能模型训练等问题，共涉及24条指导内容。

这次指导的现实意义，在于把讨论重点从技术能力转向权利和责任。模型能够合成某个人的脸部、声音或表达方式，并不意味着企业当然拥有使用、发布和传播这些内容的权利。企业需要进一步回答：使用对象是谁，授权是否真实有效，授权范围是否覆盖当前场景，生成内容是否会让公众误认为本人真实表达，以及出现争议后由谁负责解释和处理。

这并不意味着所有AI生成内容都会直接产生法律责任。是否构成侵权或其他责任，需要结合具体使用方式、授权情况、传播范围、内容影响以及相关主体的行为判断。但对企业而言，不能再把“内容由模型自动生成”作为隔离责任的理由。

人脸与声音克隆：企业首先要证明“有权使用”

可识别的数字复制品属于高风险输入

当产品允许用户上传照片、视频、录音，或者通过少量素材生成某个特定自然人的脸部、声音数字复制品时，风险并不只存在于最终发布环节。素材采集、模型处理、内部测试、客户交付和公开传播，都可能成为需要审查的环节。

尤其是在公众能够识别具体对象的情况下，企业应当区分三种情况：

• 使用者是否就是相关自然人本人；
• 使用者是否取得了明确、有效且覆盖相应用途的授权；
• 被复制的脸部或声音是否会被用于商业宣传、身份表达、新闻传播或其他可能影响本人权益的场景。

“素材来自公开平台”不等于“企业可以自由抓取和合成”；“客户上传”也不等于“客户已经获得完整授权”。企业如果只验证上传者身份，却没有核验被复制对象的授权关系，仍可能留下明显风险。

授权文件不能只写“同意AI处理”

企业在设计授权流程时，应避免使用过于笼统的同意表述。授权至少应尽量说明：

1. 被授权处理的对象，是照片、视频、声音，还是其他可识别特征；
2. 授权用途，是内部测试、内容制作、营销传播，还是面向第三方提供服务；
3. 授权期限、地域范围和传播渠道；
4. 是否允许再次编辑、组合、变形或生成新的数字复制品；
5. 是否允许将生成结果交付给客户、平台或其他合作方；
6. 撤回授权后，企业如何停止新增生成、下架相关内容并处理已有副本。

这些内容未必能够替代针对具体业务的法律审查，但可以帮助企业把“是否获得授权”从口头承诺转变为可核验、可追溯的产品记录。

声音克隆的误导风险不低于人脸换脸

声音克隆容易被误认为本人真实讲话，尤其是在客服、广告、培训、直播、语音通知和企业内部指令等场景中。如果生成内容涉及身份背书、交易指令、产品承诺或对外声明，企业就不能只关注音质是否自然，还要审查听众是否可能产生错误认识。

对于高风险场景，企业可以考虑在生成前设置人工确认，在输出中进行适当提示，并限制用户直接生成具有权威指令、身份确认或商业承诺性质的内容。提示和标识并不能自动消除全部责任，但能够降低误导风险，也有助于企业证明自己采取过合理的风险控制措施。

AI生成虚假信息：审核重点不能只看“像不像真的”

人工智能生成虚假信息的风险，往往不是模型是否具备“故意”，而是企业是否知道或应当知道内容存在较高失真可能，却仍然将其作为真实信息发布、推荐或传播。

产品审核不应只依赖关键词过滤。对于涉及人物身份、公共事件、企业经营、产品功效、金融交易、医疗健康等内容，应设置更严格的核验机制。尤其是以下信号同时出现时，应考虑转入人工复核：

• 内容包含可验证的事实、数据或具体事件；
• 内容使用真实人物的脸部、声音或身份信息；
• 用户要求生成“像新闻”“像官方通知”或“像本人讲话”的表达；
• 内容可能影响交易决策、声誉评价或公众判断；
• 生成结果缺乏来源，模型却以确定语气给出结论。

对于企业来说，不能把“用户自己发布”简单等同于平台没有责任，也不能把“模型只是工具”视为审核义务的终点。产品提供何种功能、采用何种默认设置、是否推荐内容、是否允许批量传播，都会影响责任判断。

算法价格歧视：AI应用于定价仍需保留解释空间

相关指导内容还涉及算法价格歧视。对企业而言，这一方向提醒的不只是电商平台和大型互联网服务商，凡是使用用户画像、历史行为、设备信息或自动化模型进行差异化定价的业务，都应当重新检查规则设计。

企业至少需要弄清楚三个问题：

第一，差异化价格依据是否与业务目标相关

如果价格差异来自真实的服务成本、库存变化、配送距离或明确的促销规则，企业应能够解释其商业逻辑。若主要依据是用户身份特征、历史消费能力或难以解释的画像标签，就需要审慎评估是否会形成不合理差异。

第二，系统是否能够解释结果

当客户询问为什么同一商品、同一服务出现不同价格时，企业不能只回答“系统自动计算”。应保留影响价格的主要变量、规则版本和计算时间，确保能够进行内部复核，并向相关人员提供基本的解释路径。

第三，是否存在人工纠错和申诉机制

自动化系统可能因为数据错误、标签过期或模型偏差产生异常结果。企业应设置价格异常监测、人工复核和用户申诉机制，避免把所有决定都交给不可解释的模型。对创业公司而言，这不一定意味着一开始就建立复杂的系统，但至少要保证关键决策可以回溯、纠正和说明。

企业上线前应建立的AI风险清单

1. 输入端：确认素材来源和授权关系

上线前应列明产品允许处理哪些素材，禁止处理哪些身份特征，谁有权上传，谁有权授权，以及授权是否覆盖商业传播。涉及人脸与声音克隆时，建议将授权凭证与素材建立对应关系，而不是只在用户协议中笼统说明。

2. 生成端：按场景设置风险等级

可以把功能分为低、中、高风险三类。普通风格转换、虚构角色生成，通常可以采用自动审核；涉及真实人物但不对外传播的内容，需要加强授权校验；涉及真实人物身份、商业背书、公共信息或交易指令的内容，则应设置人工复核或直接限制生成。

3. 发布端：防止模型输出被误认为真实表达

对于可能造成身份误认的内容，应考虑采用显著提示、元数据记录、内容水印或其他可识别措施。同时，企业要检查默认分享、推荐、批量导出和跨平台传播功能，避免用户在未充分确认的情况下快速扩大影响范围。

4. 记录端：保留完整的责任证据

建议保留以下信息：

• 用户身份及操作时间；
• 原始素材的来源和授权文件；
• 使用的模型、版本和关键参数；
• 内容生成、修改、审核与发布记录；
• 系统提示、人工复核意见和拦截原因；
• 投诉、下架、通知和处置过程；
• 相关规则、审核策略的版本变化。

留痕的目的不是把责任全部推给用户，而是帮助企业还原事实，判断问题发生在授权、模型、审核还是传播环节。没有记录，企业往往很难证明自己采取过合理措施。

5. 处置端：建立明确的下架和升级机制

一旦收到本人异议、权利人通知或发现内容可能造成误导，企业应当有统一入口和处理时限。对于涉及身份冒用、虚假声明、商业欺诈风险的内容，不宜等待争议持续扩大后再处理。

产品、法务、客服、内容审核和安全团队应明确谁负责初步判断，什么情况需要暂停传播，什么情况需要保全证据并升级处理。处置流程越依赖临时沟通，越容易出现重复发布、证据丢失或内部意见不一致。

从“能不能做”转向“是否值得上线”

对AI创业团队而言，合规并不等于全面放弃高风险能力。更现实的做法，是将能力拆分为不同权限和场景：默认提供低风险功能，对真实人物数字复制品设置更严格的身份验证与授权审核，对可能产生公共误导或商业误认的功能采取人工复核、限制传播或暂缓上线。

产品负责人可以在立项阶段就提出四个问题：

1. 这个功能处理的是谁的身份特征？
2. 用户凭什么有权使用这些素材？
3. 生成结果会不会被第三方误认为本人真实表达？
4. 出现争议后，企业能否在较短时间内说明素材、模型、审核和发布过程？

如果这四个问题无法回答，技术功能越成熟，潜在风险可能越集中。企业真正需要建设的，不只是生成模型，而是一套与生成能力匹配的授权、审核和责任管理体系。

【软盟观察】

这次最高法相关指导内容给企业带来的最大变化，是重新定义了AI产品的“最小可上线标准”。过去，团队往往把重点放在模型效果、生成速度和用户增长上，风险控制则在产品发布后通过投诉处理来补救。但在人脸与声音克隆、虚假信息和算法定价等场景中，事后处理成本通常高于事前限制，且一次传播就可能造成难以逆转的影响。

我们的判断是，企业应把“权利来源”和“责任证据”放在产品架构中，而不是交给运营人员临时判断。对于创业公司，不必一开始搭建复杂的合规平台，但应先完成三件事：第一，对真实人物身份特征设置单独授权流程；第二，对高风险生成结果保留人工复核入口；第三，记录从素材上传到内容发布的关键节点。这样做既能降低侵权和误导风险，也能帮助团队在争议发生时迅速定位问题。

更重要的是，企业不要把合规理解成限制创新。清晰的授权边界、可解释的审核规则和可追溯的内容记录，反而能够成为客户采购、合作谈判和规模化运营的基础。当行业从“展示AI能做什么”进入“企业能否放心使用AI”的阶段，可信赖的产品能力将不再只是模型效果，还包括企业是否有能力控制模型被如何使用。

最高法此次指导内容并没有让AI生成能力失去价值，而是提醒企业：真正需要审查的，不是机器是否能够生成，而是企业是否有权生成、发布和传播。对AI深度合成服务而言，授权先行、审核前置、全程留痕，才是更稳健的人工智能合规路径。