OpenAI、Anthropic与DeepMind拟合作推进AI安全：企业如何判断联合治理的实际影响？

【软盟资讯·新闻导读】9月15日前后，多家媒体报道称，OpenAI正与Anthropic、谷歌旗下DeepMind围绕人工智能安全展开数周磋商。OpenAI全球政策主管克里斯·莱汉随后证实存在相关沟通，但目前公开信息尚未显示三方已经达成统一标准、签署具体协议或建立正式治理机构。

先区分三层信息：证实了什么，尚未确认什么

目前公开披露的信息主要来自媒体报道和相关方表态。9月15日的报道显示，OpenAI、Anthropic与谷歌DeepMind就前沿人工智能安全问题进行了数周沟通；OpenAI全球政策主管克里斯·莱汉在华盛顿接受相关询问时确认了沟通事实。相关报道可参考TechCrunch的英文报道以及国内媒体对事件的整理。

但“正在磋商”与“已经合作”并不是同一件事。现有资料没有明确说明三方已经公布联合评测工具、共同安全标准、共享数据机制或固定的事故响应流程，也没有证据表明企业能够直接按照某一套“三方标准”完成模型验收。因此，把这次动向描述为“拟推进安全协作”更为准确，而不宜称作统一治理框架已经落地。

从信息确定性看，可以分为三层：

• 已确认信息：三家机构存在围绕人工智能安全的沟通，相关沟通至少持续了数周。
• 媒体报道内容：讨论方向与前沿模型安全、自律机制或安全标准有关，但具体议题和成果尚未完整公开。
• 编辑判断：如果沟通继续推进，最可能产生影响的领域包括模型评测、风险识别、测试方法和企业治理参考，而不是立即形成可强制执行的行业规则。

竞争对手为何愿意在安全问题上协作

前沿模型的风险已经超出单一公司的边界

OpenAI、Anthropic和谷歌DeepMind在模型研发、产品商业化和人才竞争上存在明显关系，但前沿模型的安全问题并不完全属于某一家公司的内部经营问题。

例如，模型可能被用于自动执行复杂任务、调用外部工具、生成代码或处理敏感信息。对单个企业而言，模型发布前的测试可以由内部完成；但当不同模型进入云服务、办公软件、开发工具和智能体平台后，风险可能跨越供应商、客户和应用场景。模型输出的可比性、风险等级的划分方式以及事故通报边界，也可能影响整个产业的信任成本。

这意味着，竞争对手可以在不公开核心参数、不交换商业机密的前提下，就部分基础安全问题进行有限协调。对各方而言，这种协作的价值可能在于减少重复建设，并提高外界对安全评测结果的理解程度。

安全协作可以降低“单边承诺”的竞争压力

如果只有一家企业主动提高测试成本、延后高风险功能上线或公开更多安全信息，短期内可能承受商业竞争压力。竞争对手之间建立最低限度的安全沟通，有助于避免企业因为担心失去市场而降低安全投入。

但这并不意味着三方会在产品策略、模型能力或商业利益上完全一致。更现实的情况是，各方可能只在特定风险类别、测试方法或经验交流层面寻找共同点，仍然保留各自的模型架构、数据、产品路线和风险处置制度。

外部监管和公共安全压力促成沟通

此次消息出现之际，美国社会对人工智能可能带来的经济与国家安全风险持续关注。对于模型公司来说，与竞争对手讨论安全问题，也可能是回应监管机构、客户和公众关切的一种方式。

需要注意的是，公开资料并未显示这次沟通已经产生监管结论，也不能据此判断相关企业获得了任何反垄断豁免或监管认可。安全合作是否符合竞争法要求，仍取决于合作内容、信息边界和实际执行方式，不能仅凭“为了安全”这一目的作出结论。

这类协作可能涉及哪些技术环节

模型评测：从单一能力测试转向风险场景测试

企业采购模型时，不能只看公开榜单或通用能力分数。更有价值的安全评测，通常需要覆盖与实际业务相关的场景，例如：

• 是否会泄露提示词、个人信息或企业机密；
• 是否容易被越权指令、提示注入或恶意上下文诱导；
• 生成代码、操作工具或执行任务时，是否存在不可接受的错误；
• 在长流程智能体中，是否会持续放大早期判断失误；
• 模型拒答、降级和人工接管机制是否稳定。

如果行业协作未来形成共同的测试语言，企业就可能更容易比较不同供应商在相同风险场景下的表现。不过，在目前阶段，企业不能假设三方已经提供了可直接采用的统一测试体系。

风险识别：关注“模型风险”与“系统风险”的差别

模型本身的拒答能力只是安全的一部分。企业真正部署智能体时，还需要检查权限系统、数据连接器、工具调用、日志留存和人工审批等环节。

同一个模型，在只生成文本的客服场景中，与能够访问财务系统、发送邮件或修改生产数据库的智能体场景中，风险等级并不相同。因此，行业安全讨论即便形成共识，也更可能提供基础评测和风险分类参考，不能替代企业针对业务系统开展的安全审查。

治理机制：关键不只是“测不测”，还包括“谁负责”

企业需要进一步关注模型上线后的责任安排，包括：

• 谁批准高风险模型或智能体进入生产环境；
• 谁负责跟踪模型版本变化和供应商策略调整；
• 出现严重错误时，谁能暂停调用或切换备用模型；
• 哪些事件需要向客户、监管部门或内部管理层报告；
• 如何保留评测记录、审批记录和事故复盘材料。

这些问题属于组织治理和运营控制，通常无法通过单次模型测试解决。即使三家机构未来发布某种安全建议，企业仍需将其转化为自身的审批制度和技术控制。

对企业选型和供应商尽调的实际影响

不要把“参与安全协作”当成供应商安全证明

企业在评估OpenAI、Anthropic或谷歌DeepMind相关模型时，可以把其是否公开安全报告、风险政策、评测方法和事件响应机制作为考察维度，但不应仅因企业参与安全磋商，就直接认定其产品更安全。

更稳妥的尽调问题包括：

1. 供应商是否说明模型更新、能力变化和安全策略调整的通知机制；
2. 是否提供与企业业务相关的红队测试、滥用测试或安全评测材料；
3. 是否明确客户数据的使用、保存、隔离和删除规则；
4. 是否支持权限控制、调用审计、速率限制和人工复核；
5. 发生重大风险时，是否有暂停服务、回滚版本和应急联络机制。

将模型评测纳入业务验收，而不是只交给技术团队

采购合同或项目验收中，可以增加面向具体业务的安全指标。例如，在客户服务场景测试敏感信息泄露，在研发场景测试代码依赖风险，在内部知识库场景测试越权检索，在智能体场景测试未经授权的工具调用。

评测结果应当与上线范围绑定。低风险的内容生成可以采用较宽松的人工抽检，高风险的付款、审批、数据修改和对外发送操作，则应设置更严格的权限隔离和人工确认。

对关键业务保留供应商切换能力

如果行业头部公司在安全领域展开协作，可能会推动企业更加重视可比性和标准化；但企业也不能因此形成对单一模型供应商的依赖。

对于关键业务，建议保留多供应商评估、模型路由或备用方案，并提前确认不同模型在上下文格式、工具调用、输出稳定性和数据处理规则上的差异。安全协作的价值，最终要体现为企业能够更容易识别风险和执行替代方案，而不是让企业把所有治理责任转移给模型提供商。

企业现在可以采取的四项行动

在统一标准尚未确认之前，企业仍然可以先建立自己的最低治理基线：

• 建立模型和智能体清单：记录供应商、版本、使用部门、数据类型、权限范围和业务重要性。
• 按风险分级上线：区分内容辅助、内部决策支持、外部客户服务和可执行操作等场景。
• 形成上线前评测包：至少覆盖准确性、敏感信息、越权调用、提示注入、异常处理和人工接管。
• 设置持续监测机制：跟踪模型版本、输出质量、违规事件、用户投诉和供应商公告，而不是只在首次部署时测试。

这套方法不依赖三方是否最终达成协议，也能帮助企业把外部安全讨论转化为内部可执行流程。

【软盟观察】

OpenAI、Anthropic与谷歌DeepMind围绕人工智能安全展开沟通，首先说明前沿模型竞争并不排斥在部分风险问题上建立共同语言。对行业而言，真正有价值的成果不是“巨头合作”本身，而是能否形成透明、可比较、可复核的评测方法，并明确协作边界与责任边界。对企业来说，当前最理性的做法不是等待一套尚未落地的统一标准，也不是把安全判断交给供应商声誉，而是把模型评测、权限控制、人工审批、事件响应和供应商切换纳入同一套治理流程。只有当外部倡议能够被转化为具体测试项、审批条件和审计记录时，行业级安全协作才可能真正产生企业可执行的价值。