![]()
![]()
![]()
当地时间 28 日，英伟达发布名为 "Open Agent Safety Platform" 的 AI 安全平台。该系统由 OpenShell 开源软件和 Sentry 参考系统设计组成，能为 AI 智能体设定更安全的运行边界。英伟达表示，该平台本可以阻止今年 7 月 OpenAI 模型攻击抱抱脸。
OpenShell 可以在智能体运行时提供安全边界，AI 代理一旦试图访问未授权文件、发起异常网络连接或执行危险命令，就会被拒绝、记录，甚至被隔离。该软件既可部署在英伟达硬件上，也可拓展至安谋、英特尔等第三方平台。Sentry 运行于英伟达硬件上，独立于智能体的软件运行环境，持续监控智能体行为，AI 代理如果试图越界，能以毫秒级的速度隔离异常代理。
英伟达 AI 副总裁贾斯汀 · 博伊塔诺表示，仅靠模型层面的保障措施无法管控智能体可访问资源与执行动作，近期多起智能体失控事件更是凸显这一点。分析认为，英伟达正尝试将 AI 安全能力进一步嵌入 AI 基础设施，通过权限控制和异常隔离降低自主代理的安全风险。这也意味着，英伟达的业务触角正从 AI 芯片进一步延伸至软件及安全基础设施领域。
猜你喜欢
▌本文来源：央视财经（ID：cctvyscj）
你会关注
重大利好！八部门联合发文
楼市大消息！上海重磅发布
降温 10 ℃！暴雨！今晚起，紧急提醒→
冲上热搜！"China Haul" 全球刷屏→
利好来了！万亿级产业，七部门重要部署→
监制 / 李想
主编 / 于小曼
记者 / 覃馨葭 编辑 / 张娅芳
转发，关注！
