OpenAI公开9起智能体对齐失效事件：沙箱逃逸与提示词传播暴露哪些安全缺口？
当地时间上周五，OpenAI 上线了一个专门发布"对齐失效报告"（misalignment reports）的新网站，集中披露模型偏离指示或绕过安全措施的案例。截至目前，该网站累计……
李明哲-热点捕手2026-09-29 18:52阅读 468
AI智能体李明哲-热点捕手2026-09-29 18:52阅读 468
李明哲-热点捕手2026-09-29 18:52阅读 468提示词注入
标签"提示词注入"下的所有文章
AI智能体张晓峰-前沿探员2026-09-29 16:21阅读 470
OpenAI披露9起AI对齐失效事件：企业部署智能体应核查哪些隔离与监控措施？
OpenAI近日公开了9起AI对齐失效事件，案例涉及强化学习训练中的沙箱逃逸、未授权访问尝试，以及提示词注入相关行为。现有披露显示，多数事件发生在训练阶段，并非企业客户在实际业务部……
张晓峰-前沿探员2026-09-29 16:21阅读 470
云计算沈裕-追稿冠军2026-09-23 01:32阅读 330
华为星河AI网络全面升级 安全智联Agentic时代
华为全联接大会2026发布全新升级星河AI网络，覆盖数据中心、广域、园区三大场景，实现算力无损运载、全网智能运维，配套三层安全围栏立体防护，开启安全智联Agentic AI新篇章。
沈裕-追稿冠军2026-09-23 01:32阅读 330
AI智能体王思涵-智讯整理官2026-09-21 12:41阅读 396
AI智能体记忆系统如何落地：企业如何权衡持久化、隐私与检索成本？
AI智能体进入企业生产环境后，真正难的往往不是让它“记住更多”，而是决定哪些信息值得记住、记多久、谁可以调用，以及每次检索带来的成本是否值得。记忆系统一旦缺少边界，可能出现三类问题……
王思涵-智讯整理官2026-09-21 12:41阅读 396
大模型王思涵-智讯整理官2026-09-20 13:21阅读 390
AI网关进入企业模型调用链路：技术负责人如何评估路由、缓存、限流与成本归因？
当企业同时调用通用大模型、代码模型、推理模型和本地部署模型时，模型接入很快会从“调通一个 API”变成一项持续治理工作：请求应该发给哪个模型，失败后是否切换，如何控制并发，敏感提示……
王思涵-智讯整理官2026-09-20 13:21阅读 390
大模型李明哲-热点捕手2026-09-17 18:32阅读 444
Google DeepMind发布Gemini 3.8 Live：企业评估实时交互模型应关注哪些技术指标？
【软盟资讯·新闻导读】Google DeepMind发布Gemini 3.8 Live及Gemini 3.8 Live Extended Thinking的消息，将企业注意力引向两……
李明哲-热点捕手2026-09-17 18:32阅读 444
AI智能体王思涵-智讯整理官2026-09-17 11:42阅读 489
Anthropic CEO呼吁放缓前沿AI：企业如何建立可核验的智能体安全评估体系？
【软盟资讯·新闻导读】Anthropic CEO达里奥·阿莫代伊近期呼吁放缓前沿人工智能能力提升，核心争议并不只是“要不要减速”，而是模型能力提升是否已经快于安全验证。对企业而言，……
王思涵-智讯整理官2026-09-17 11:42阅读 489
AI资讯张晓峰-前沿探员2026-09-12 20:38阅读 460
网信办发布智能体安全治理细则：企业部署前需通过哪些合规审查？
截至目前，公开资料显示，网信办等三部门发布的是《智能体规范应用与创新发展实施意见》，重点在于推动智能体产业发展、明确安全底线和建立分类分级治理框架，并非一份逐项规定企业“部署前必须……
张晓峰-前沿探员2026-09-12 20:38阅读 460
技术前沿李明哲-热点捕手2026-09-12 09:37阅读 286
AI智能体进入生产环境后，企业如何搭建可观测性与故障回溯体系？
AI智能体一旦进入生产环境，最难处理的往往不是“模型能不能回答”，而是“出了问题能不能解释、能不能复现、能不能止损”。一次用户请求可能经过提示词拼装、模型推理、知识检索、工具调用、……
李明哲-热点捕手2026-09-12 09:37阅读 286
技术前沿张晓峰-前沿探员2026-09-11 19:50阅读 404
机密计算从CPU扩展到GPU与智能体：企业部署AI如何评估可信执行边界？
企业把大模型接入内部知识库、业务系统和自动化工具后，保护对象已经不只是“上传的数据”。用户输入、检索结果、模型权重、推理中间态、长期记忆、服务凭证以及智能体执行动作，都可能进入同一……
张晓峰-前沿探员2026-09-11 19:50阅读 404