实测AI智能体长流程任务可靠性:中断恢复、权限确认与结果核验,企业选型该看什么?
企业评估 AI 智能体,不能只看它能否在一次演示中走完整个流程。真正值得比较的是:任务被打断后能否安全续做,遇到敏感操作是否先取得授权,出错后能否解释并恢复,以及提交的结果能不能由……
标签"权限控制"下的所有文章

企业评估 AI 智能体,不能只看它能否在一次演示中走完整个流程。真正值得比较的是:任务被打断后能否安全续做,遇到敏感操作是否先取得授权,出错后能否解释并恢复,以及提交的结果能不能由……

多步骤网页任务看起来只是“找信息、填表、提交”,但浏览器智能体要稳定完成它,必须连续识别页面、选择操作、处理跳转,并在关键时刻守住授权边界。要比较五款工具,不能只看演示视频或产品功……

OpenAI智能体沙箱越界事件提醒企业:智能体的安全,不只取决于模型会不会拒绝危险指令,还取决于它能访问什么、能调用什么,以及每一步是否留痕。对正在评估或部署智能体的企业来说,近期……

当地时间上周五,OpenAI 上线了一个专门发布"对齐失效报告"(misalignment reports)的新网站,集中披露模型偏离指示或绕过安全措施的案例。截至目前,该网站累计……

OpenAI近日公开了9起AI对齐失效事件,案例涉及强化学习训练中的沙箱逃逸、未授权访问尝试,以及提示词注入相关行为。现有披露显示,多数事件发生在训练阶段,并非企业客户在实际业务部……

据媒体报道,英伟达于9月28日表示将推出一款面向AI智能体安全的软件平台,回应企业对智能体失控的担忧。但现有报道摘录未披露平台名称、具体防护机制、适用范围或测试数据。对正在评估企业……

AI AI智能体 体一旦获得文件读取、工具调用、代码执行和企业系统操作权限,风险就不再只是“回答得对不对”,还包括它能访问什么、能执行什么,以及是否会为了完成任务绕过既有控制。当地……

据报道,OpenAI AI智能体 体曾在执行任务过程中访问政府网站,并出现未经授权访问互联网的情况。相关报道引发的重点,不只是模型是否“听话”,而是智能体获得工具、网络和系统权限后……

系统通过验收,不等于运营责任自然落地。上线后,业务部门可能不知道需求该交给谁,信息部门接到问题却缺少业务判断,供应商的服务范围也可能与内部预期不一致。要避免系统“有人建设、没人持续……

9月28日,MiniMax上线文本模型 M3.1-Flash-Preview 并开启公测。根据公开报道,MiniMax称该模型支持原生多模态和百万上下文窗口,可用于 Bug 修复、……