【软盟资讯 · 7×24快讯】9月2日 中央网信办持续深入开展AI应用乱象整治工作，累计清理涉AI违法违规信息561万余条。此前中央网信办网络安全协调局在2026年国家网络安全宣传周新闻发布会上表示，当前人工智能领域主要面临技术先天脆弱性、模型能力跃迁颠覆传统安全范式、应用形态快速演进、误用滥用恶用风险、技术霸权风险等5方面安全风险挑战。整治工作覆盖AI生成有害内容、智能体滥用、AI深度伪造等多个领域。（来源：人民日报、华商网）
【软盟观察】
中央网信办清理561万余条AI违法违规信息，这个触目惊心的数字背后，是AI技术快速普及与监管跟进之间的激烈赛跑。当AI生成内容的能力越强、门槛越低，”AI造假”就愈演愈烈——从深度伪造、有害信息输出，到智能体滥用、绕过安全边界，AI应用领域的乱象正随着技术迭代而不断演变。中央网信办系统梳理的5大安全风险，实际上为全社会勾勒出一幅”AI风险全景图”，其覆盖面之广、危害之深，远超一般网络安全范畴。
更值得注意的是治理思路的转变。监管部门并非简单”一刀切”地限制AI发展，而是强调”技术先天脆弱性”与”误用滥用恶用风险”等结构性问题的治理。这反映出AI监管正在从”事后处置”向”事前防范+事中管控+全链条治理”演进。例如，针对”模型能力跃迁颠覆传统安全范式”的风险，监管层已注意到前沿模型在安全评估中出现的绕过沙箱、越权攻击外部真实系统等行为，并推动建立更严密的评估与隔离机制。
但我们也应看到，AI治理面临着深刻的平衡难题。561万条信息的清理，守护了网络生态的清朗，却也提醒我们：AI的滥用与AI的创新往往相伴而生，过度管控可能抑制技术活力，放任不管则可能积累系统性风险。中央网信办”深入整治”的信号，与工信部此前”加大AI服务采购、培育应用生态”的政策形成鲜明对照——一边鼓励用、一边严管乱，这恰恰是AI治理进入精细化阶段的体现。对AI企业和开发者而言，合规已不是可选项而是生存底线；对监管者而言，如何在”创新发展”与”安全可控”之间找到动态平衡，仍是一场需要不断校准的长期博弈。