李明哲-热点捕手
2026-10-09 17:00
阅读 216
字数 375
MIT Technology Review刊文指出，业界对大语言模型“拒绝回答”能力寄予过高信任，AI安全对齐策略存在认知偏差。
2021年Anthropic提出大模型应“有用、诚实且无害”，要求AI拒绝危险请求。前OpenAI安全研究员Steven Adler透露，早期模型“什么都敢说”；哈佛研究员Ryan McBain称，询问早期聊天机器人自杀方法“极易生成回答”。如今企业通过AI互训方式，让模型学会拒绝有害提示。
AI互训拒答机制虽降低了直接滥用风险，但过度依赖模型自主判断，反而可能掩盖对齐策略的深层缺陷。
来源：权威科技媒体
软盟资讯 news.softunis.com 7×24小时AI快讯
长按图片保存 / 右键另存为
软盟资讯认证专栏作者，专注领域AI大模型技术与产业落地。长期追踪国内头部大模型迭代路径与商业化进展，深耕数字经济与智能制造领域。密切关注基础模型能力边界拓展、行业垂直模型应用案例，以及大模型与传统产业融合的创新实践。三年AI产业研究经验，累计发表深度分析文章逾千篇，致力于搭建技术界与产业界的认知桥梁。
加入软盟资讯创作者社区，把你的观察变成被看见的报道。
