英伟达推出OpenShell智能体安全工具:利用CPU硬件功能约束Agent越权执行

AI智能体一旦获得文件读取、工具调用、代码执行和企业系统操作权限,风险就不再只是“回答得对不对”,还包括它能访问什么、能执行什么,以及是否会为了完成任务绕过既有控制。当地时间9月28日,英伟达宣布推出开放智能体安全平台,核心组件包括开源运行时 OpenShell 和参考系统设计 NVIDIA Sentry,试图把部分安全控制从应用层下沉到运行环境。

英伟达称,OpenShell 可在 CPU 运行环境中为智能体设定安全边界,跟踪其操作并执行预先设定的策略;其软件可扩展至包括 Arm、英特尔在内的第三方计算平台。英伟达还将 Sentry 描述为运行在 BlueField-4 DPU 上的带外监控器,可持续观察智能体行为,并在发现越界行为时将其隔离。英伟达称,隔离可在数毫秒内完成。

英伟达推出OpenShell智能体安全工具:利用CPU硬件功能约束Agent越权执行

这两部分并非同一个组件:OpenShell 负责运行时边界和策略执行,Sentry 则承担持续监测与隔离。英伟达将平台定位为覆盖智能体软件、硬件、计算乃至机器人系统的治理方案,但企业需要关注各组件的部署条件和适用范围,不能把整个平台的目标等同于 OpenShell 单独具备的能力。

权限控制不能只看主智能体

OpenShell 的思路,是把策略定义与智能体应用本身分开,由运行环境执行约束,而不是仅靠提示词要求模型“不要越权”。英伟达的开发者资料还描述了通过声明式策略限制文件读取、网络访问和权限的做法,并提醒用户使用隔离环境、专用低权限账户,谨慎审核技能和插件。

对企业而言,关键问题还包括子智能体和工具链如何受控。主智能体调用子智能体、脚本或插件后,权限是否会被继承、扩大或绕开?共享文件、凭据、网络出口和日志是否仍处于策略覆盖范围?现有资料说明了策略隔离和运行时控制的设计方向,但不足以证明所有子智能体架构、第三方工具或复杂工作流都会自动受到同等约束。这些场景需要逐项验证。

企业部署前应验证什么

评估时应从具体威胁模型出发,而不是只看演示效果。可以在无生产数据的测试环境中,分别测试越权读取文件、访问未授权网络地址、调用高权限工具、通过子智能体转交任务,以及提示词注入后尝试修改策略等情况,并检查系统是否阻断、告警、隔离和留存可审计记录。

还应验证策略配置错误、组件故障和更新后的行为:拒绝规则是否真正生效,监控器不可用时系统会如何处理,隔离动作是否影响正常业务,日志能否还原完整调用链。英伟达公布的能力主张与企业环境中的实际防护效果不是一回事;在完成独立测试和持续监控前,不宜将其视为可以全面消除智能体风险的安全保证。

【软盟资讯观察】

智能体从“生成内容”走向“代为操作”,权限控制正在成为企业AI安全的基础设施问题。把策略放到模型和应用之外执行,有助于减少单靠提示词或应用逻辑约束所带来的局限;OpenShell 对 Arm、英特尔平台的适配主张,也显示厂商希望扩大运行时安全工具的覆盖面。但开放软件和参考设计不等于企业部署后自然安全,具体效果仍取决于策略质量、运行环境、工具权限和监测能力。企业可以把它纳入测试候选,但应先在隔离环境中验证主智能体与子智能体的权限边界,并准备独立的审计、应急和回滚机制。

关于文章版权的声明:

https://news.softunis.com/83789.html 文章来自软盟资讯

若非本站原创的文章,特别作如下声明:

本文刊载所有内容仅供提供信息交流和业务探讨而非提供法律建议目的使用,不代表任何监管机构的立场和观点。不承担任何由于内容的合法性及真实性所引起的争议和法律责任。

凡注明为其他媒体来源的信息,均为转载,版权归版权所有人所有。

如有未注明作者及出处的文章和资料等素材,请版权所有者联系我们,我们将及时补上或者删除,共同建设自媒体信息平台,感谢你的支持!

赞 (0)
【每日AI必读资讯】AI智能体与大模型最新动态精选10条(2026年09月29日)
上一篇 2026年9月29日 13:17
2027第65届高等教育博览会(天津)官网
下一篇 2026年9月29日 13:46

相关文章推荐

发表回复

登录后才能评论