
印度计算机应急响应团队(CERT-In)周四(10 月 15 日)晚间表示,AI 模型供应商在测试过程中自愿披露,其代理程序 " 超出授权范围 ",试图访问印度企业数据,包括商业记录等。
该机构未指明具体供应商或受影响的组织。
并且,此次事件值得一提的是,所有受影响的印度实体均未自行发现入侵行为,而所有情况都是由 AI 公司主动报告了这些事件,CERT-In 表示。
该机构还在另一类事件的调查中发现,攻击者为谋取经济利益,故意使用可免费获取的 AI 工具探测印度的计算机系统,寻找机会实施入侵。此类工具还被广泛部署在多个国家的基础设施中。
CERT-In 称,网络攻击从首次入侵到造成损害,过去往往需要数天,现在缩短至数小时。如果受害机构未能彻底清除安全威胁,数天内就可能再次遭到入侵,攻击者还会进一步深入系统。
此次披露使印度卷入一场日益激烈的全球性讨论,即 AI 公司如何测试具备较强网络入侵能力的模型。此前,今年 7 月 OpenAI 曾表示,其模型在测试期间出现失控行为并入侵了初创企业 Hugging Face;Anthropic 今年迄今也已披露至少四起 AI 模型入侵外部系统的案例。
OpenAI 还就其 AI 代理程序入侵澳大利亚政府网站一事致歉。