来源:环球市场播报

这份37 页的报告详述了 OpenAI 模型在入侵前及入侵期间的一系列评估中所采取的行动,OpenAI 将此次事件定性为 " 前所未有的网络安全事件 "。该公司还解释了为防止类似事件再次发生所采取的步骤,主要包括改进其安全与隔离、监控、模型行为及事件响应能力。
" 此次事件表明,自主智能体能够协同工作、规避生产环境安全控制,并成功攻击加固后的生产环境。这凸显了各组织需要更新其安全策略、控制措施和响应能力,以应对不断变化的威胁形势,"OpenAI 在报告中表示。
7 月 21 日,OpenAI 披露其多款模型(包括 GPT-5.6 Sol 和一个内部研究模型)的组合不当入侵了 Hugging Face ——一家运营开源开发者平台的 AI 公司。
这些以智能体形式运行的模型,逃逸了一个互联网访问权限极为有限的隔离测试环境。这些智能体通过串联一系列漏洞进入开放网络,最终获得了对 Hugging Face 的访问权限。OpenAI 周三表示,这些智能体试图通过在线上寻找答案来 " 作弊 " 通过评估,这种行为被称为 " 奖励黑客 "。
根据报告,OpenAI 认定其仅限内部使用的研究模型在事件中 " 扮演了最广泛的已确认角色 "。OpenAI 已于 7 月 25 日停止了该模型及其衍生模型的所有训练和推理活动。
"OpenAI 对模型的重新启用按具体工作负载处理,并受限于受限环境、网络、提示、监控和审查等防护措施,"OpenAI 表示。
OpenAI 上个月发布了 GPT-5.6 Sol,这是该公司商业化提供的功能最强大的模型。但 OpenAI 表示,参与 Hugging Face 入侵的版本与外部用户可访问的版本不同,因为该版本在运行时移除了标准安全防护和分类器。
Hugging Face 事件在科技行业引起震动,Zscaler 首席信息安全官 Sam Curry 警告称 " 潘多拉魔盒已经打开 "。此次入侵也是本月早些时候 Black Hat 网络安全大会的主要焦点,尤其是在包括 Anthropic 和 Meta 在内的其他公司披露了类似事件之后。
Hugging Face 入侵事件也引起了华盛顿立法者的警觉。加利福尼亚州民主党众议员 Ted Lieu 和德克萨斯州共和党众议员 Nathaniel Moran 在宣布《AI 紧急关停法案》时提及了此次攻击,该法案将要求 AI 公司保持关闭、限制或暂停其模型的能力。
Hugging Face 首席执行官 Cl é ment Delangue 本月早些时候表示,AI 网络安全应被 " 非常严肃地 " 对待。他补充说,这也为那些能够利用该技术抵御攻击者的企业 " 创造了机遇 "。
" 如果我们做得好,我们实际上可能最终进入一个 AI 让世界更安全、解决许多网络安全问题而不仅仅是创造新问题的世界,"Delangue 表示。