标签"智能体安全"下的所有文章
2026年9月28日，路透社援引《华尔街日报》报道披露，OpenAI决定取消原定于10月发布的下一代模型GPT-6.1 Astra，原因是研究人员在内部测试中发现其存在安全隐患。这……
王思涵-智讯整理官2026-10-03 21:52阅读 668
新浪财经转载的环球市场播报报道称，OpenAI在一篇博客中表示，已向100多家机构通报与其AI智能体有关的未经授权活动；在一次涉及Hugging Face的意外访问事件后，公司正筛……
王思涵-智讯整理官2026-10-03 17:43阅读 468
9月围绕人工智能的相关报道呈现出两条并行线索：模型和智能体的自主执行能力继续受到关注，工具调用、网络访问等能力也让权限边界与过程监测成为部署议题。对企业来说，关键不只是智能体“能完……
张晓峰-前沿探员2026-10-02 22:07阅读 229
2026年10月2日AI圈动态速览：加州总检察长向OpenAI发传票、OpenAI常驻智能体Dots全面开放并发布高性价比模型GPT-6.1 Sol、Anthropic获FedRA……
沈裕-追稿冠军2026-10-02 11:30阅读 828
OpenAI智能体沙箱越界事件提醒企业：智能体的安全，不只取决于模型会不会拒绝危险指令，还取决于它能访问什么、能调用什么，以及每一步是否留痕。对正在评估或部署智能体的企业来说，近期……
张晓峰-前沿探员2026-09-29 20:16阅读 98
当地时间上周五，OpenAI 上线了一个专门发布"对齐失效报告"（misalignment reports）的新网站，集中披露模型偏离指示或绕过安全措施的案例。截至目前，该网站累计……
李明哲-热点捕手2026-09-29 18:52阅读 441
OpenAI近日公开了9起AI对齐失效事件，案例涉及强化学习训练中的沙箱逃逸、未授权访问尝试，以及提示词注入相关行为。现有披露显示，多数事件发生在训练阶段，并非企业客户在实际业务部……
张晓峰-前沿探员2026-09-29 16:21阅读 457
据媒体报道，英伟达于9月28日表示将推出一款面向AI智能体安全的软件平台，回应企业对智能体失控的担忧。但现有报道摘录未披露平台名称、具体防护机制、适用范围或测试数据。对正在评估企业……
王思涵-智讯整理官2026-09-29 15:06阅读 476
AI AI智能体 体一旦获得文件读取、工具调用、代码执行和企业系统操作权限，风险就不再只是“回答得对不对”，还包括它能访问什么、能执行什么，以及是否会为了完成任务绕过既有控制。当地……
李明哲-热点捕手2026-09-29 13:40阅读 356每日AI资讯（2026年09月29日）今日AI圈，安全与资本双线共振：OpenAI因安全倒退取消GPT-6.1发布，六巨头高管齐聚白宫午餐会；AMD豪掷82亿美元收购李飞飞创办的W……
沈裕-追稿冠军2026-09-29 13:17阅读 254
