AI造谣之所以难治理，并不只是因为“假内容越来越像真的”，更在于它改变了谣言的生产、传播和追责结构。传统造谣往往需要较高的制作成本，而生成式人工智能降低了文本、图像和视频加工门槛，使虚假内容能够被快速定制，针对不同群体采用不同叙事。源内容提到的“定制化、门槛低、识别难、破坏大”，正是这一问题的核心特征。
难点不在识别，而在全链条失配
首先，真实性判断具有滞后性。合成视频或移花接木内容可以先借助情绪、冲突和视觉冲击获得关注，事实核查却需要寻找原始材料、还原传播过程并确认相关主体。等到结论形成，虚假信息可能已经被反复转载，甚至脱离原始语境继续传播。
其次，责任边界更加复杂。一条AI谣言可能涉及提示内容提供者、合成工具使用者、发布账号、传播平台以及二次加工者。若只追究最后发布者，容易遗漏源头；若要求平台对所有内容即时确认，又会面临海量信息、误判和过度限制表达的风险。治理因此不能只依赖单一平台审核，而需要技术识别、账号管理、内容标识、事实核查和责任追溯共同作用。
更棘手的是，AI生成内容并非都具有明显破绽。画面越逼真，公众越容易把“看起来合理”误认为“已经证实”；而部分内容即使包含少量真实素材，也可能通过剪辑和语境替换制造错误结论。治理对象因而不是简单的“机器生成内容”，而是借助生成技术实施欺骗、敛财或造成公共损害的行为。
治理重点应从删帖转向可追溯
《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等政策，已经提供了规范技术使用的制度基础。但真正有效的治理，还要把风险前移：平台需要保留必要的生成和传播线索，发布者应对重大事实承担核验责任，公众也应形成对异常视频、煽动性叙事和缺乏来源信息的审慎判断。
AI造谣难治理，根本原因是技术迭代速度、传播扩散速度与核查追责速度并不对等。解决方案不能寄希望于某一个检测模型，而应建立从生成、发布到扩散、纠错的闭环，并在打击恶意造谣与保护正常表达之间保持边界清晰。