
邦塔在新闻发布会上表示:"OpenAI 无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。"
他进一步指出,此次诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件。公众不应被迫承担保护自身免受 OpenAI 不安全实验所带来危险的成本。
邦塔当天在旧金山高等法院提起诉讼,指控 OpenAI 未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI 在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。
此外,加州提起的最新诉讼还指控 OpenAI 违反了加州不正当竞争法,且该公司构成州法律定义的公共妨害。
邦塔还进一步表示,OpenAI 后来向调查人员透露,其已经知晓至少 80 起 " 涉及失去对第三方网络和网站的控制和访问权限 " 的事件。加州方面认为,这些事件可能只是已知问题的一部分,而 OpenAI 未能充分回应监管部门此前提出的详细调查问题。
" 该公司未能提供我们要求的详细信息以评估这些事件;这令人担忧,并将公众置于危险之中," 他说。
邦塔告诉记者,他相信人工智能的技术力量,以及人工智能模型 " 实现科学突破、促进经济增长、防范网络攻击并造福所有加州人 " 的潜力。
" 但是人工智能系统的开发和设计必须安全," 他补充说," 开发这些模型的公司负有道德责任,也负有法律责任,必须将公共安全放在首位。"
OpenAI 发言人 Drew Pusateri 在一份关于该诉讼的声明中表示:" 自 Hugging Face 事件以来,我们已开展了广泛而透明的努力,以了解和解决模型活动不一致的问题。"
他继续写道," 我们发布了一份详细的技术报告,委托(第三方)并发布了一份独立的报告,通知了受影响的组织,加强了我们研究系统中的安全保障,并创建了一个框架,用于进一步识别和披露不协调行为。"
" 这项诉讼似乎专门针对 OpenAI,而所有主要的 AI 实验室都已告知了这一挑战。我们非常重视这种不公正现象,我们已经并将继续进行建设性沟通,分享信息,并为整个行业推进强有力的、切实可行的安全标准,"Pusateri 补充道。