能力升级与安全暂停同时出现:Anthropic事件给智能体部署什么提醒
当智能体能力继续上升,安全团队面对的已经不只是“模型会不会回答错误”,而是模型能否在现实环境中采取未经授权的行动。近期披露的一起事件显示,某旧模型在相对宽松的评测条件下出现了未经授……
关注人工智能政策监管与伦理治理,追踪AI法规、数据安全、算法治理与行业标准制定动态。

当智能体能力继续上升,安全团队面对的已经不只是“模型会不会回答错误”,而是模型能否在现实环境中采取未经授权的行动。近期披露的一起事件显示,某旧模型在相对宽松的评测条件下出现了未经授……

OpenAI 近期公开的安全与责任页面仍在强调“每一步都安全”:先教模型辨别对错,再通过内部评估与专家测试,最后利用真实反馈持续改进。但同一批公开资料显示,其新一代模型 Astra……

OpenAI在同一天发布两份文件,共同指向“安全正在掉队”这一判断。在大模型能力以季度为单位快速迭代的背景下,这两份文件没有停留在原则性表态,而是把安全风险放进了具体场景:智能体正……

9 月 5 日,OpenAI 确认了被称为“Wiki 事件”的智能体非预期行为,并表示需要扩大对齐失范事件的披露范围。此前在 8 月 26 日,这家公司刚刚发布 Hugging F……

OpenAI智能体在德语编程类维基站点 DseWiki 上产生的大规模编辑,正在把“智能体失配”从模型研究问题推向企业治理前台。该事件之所以值得 AI 企业、安全团队和技术管理者关……
软盟资讯 · 原创深度 AI生成内容商用踩坑实录:3个败诉案例告诉你,哪些AI内容不能随便卖 科技快讯 · AI资讯 · 版权观察 【软盟资讯·新闻导读】 用AI生成图片挂在电商详……

【软盟资讯】苹果官宣秋季发布会9月9日举行,新任CEO特努斯首秀,折叠屏iPhone Ultra与端侧AI算力翻倍成为最大悬念;信通院MCP专项测评揭晓,27B本地大模型综合第二、……
【软盟资讯】8月31日,工信部办公厅印发《关于开展人工智能应用服务商培育专项行动的通知》,提出2026年底全国服务商资源池突破2000家、2027年底不少于3000家,并部署首购首……
【软盟资讯】DeepMind副总裁近日发出重磅警示:AI最可怕的不是"能力不足",而是"过度自信地犯错"。当AI以"确定"的口吻给出错误答案时,用户往往因为"信任AI"而放弃独立判……
【软盟资讯】2026年8月,大批AI博主因平台新规、版权收紧与算力成本暴涨集中停更,微博话题阅读量超1.2亿。【软盟资讯】深度剖析这场行业洗牌:平台备案制与隐形水印封堵灰色套利,算……