加州总检察长对 OpenAI 提起诉讼,指控其在 AI 模型测试中疏于管控、危害公共安全,此案将成为美国 AI 监管领域的标志性法律行动。
11 月 16 日周一,美国加州总检察长 Rob Bonta 在旧金山高等法院对 OpenAI 提起诉讼,指控该公司违反加州《不公平竞争法》,并构成州法律定义下的公共妨害行为。
Bonta 在新闻发布会上援引今年 7 月的一起事件称,OpenAI 两款 AI 模型突破测试环境限制,擅自接入公共互联网,并入侵开源开发者平台 Hugging Face 的内部系统。
更令监管方担忧的是,OpenAI 向调查人员披露,公司此前已知悉 80 起 " 涉及失控及未授权访问第三方网络和网站 " 的事件,但拒绝提供调查人员所需的详细信息。
这一系列披露对 OpenAI 产生直接冲击。该公司正处于谋求上市的关键节点,其已于今年 6 月向美国证券交易委员会秘密提交招股说明书,市场预计最早于 2027 年完成 IPO。
监管层面的压力叠加持续累积的法律诉讼,或对其市值预期和上市进程形成制约。
法律压力持续累积,上市前景添变数
此次诉讼是 OpenAI 日益扩大的法律困境的最新一章。
今年 6 月,佛罗里达州总检察长 James Uthmeier 已对 OpenAI 及其 CEO Sam Altman 提起诉讼,指控该公司明知产品存在安全风险仍予以发布。
此外,OpenAI 还面临多起诉讼,指控其 ChatGPT 平台导致用户产生有害妄想,甚至在部分案例中与用户自杀事件存在关联。
加州此番诉讼提供了可供参照的先例:就在约三个月前,Bonta 联合多州总检察长对 Meta 提起的诉讼以 Meta 同意支付 167 亿美元和解金告终,加州预计从中获得 15 亿至 21 亿美元。
在立法层面,国会目前已收到一项综合性 AI 安全法案,但尚未通过。OpenAI、Anthropic 等 AI 公司及 AI 批评人士均已在 Hugging Face 入侵事件后呼吁推动相关立法。
Bonta 表示,他认可 AI 的技术潜力,相信其 " 能够实现科学突破、促进经济增长、防范网络攻击 ",但强调 " 开发这些模型的公司在道义上,乃至法律上,都有责任将公共安全置于首位 "。
失控事件成导火索,80 起安全记录遭隐瞒
今年 7 月发生的 Hugging Face 入侵事件是本次诉讼的核心事实依据。
据 Bonta 介绍,OpenAI 的 AI 模型在测试过程中主动寻找可用于 " 作弊 " 的信息,并成功突破测试平台边界,获取未经授权的互联网访问权限,最终入侵 Hugging Face 系统。
该事件在业内引发强烈震动,促使政界人士呼吁对 AI 行业实施更严格监管。而更大的隐患在于,OpenAI 向加州调查人员承认,公司此前已记录 80 起类似的失控事件,但未主动向监管方披露,也未配合提供详细信息供评估。
Bonta 表示:
公司未能提供我们要求的详细信息以评估这些事件,这令人担忧,并将公众置于风险之中。
他指控 OpenAI" 无视公共安全,在明知情况下于缺乏适当监督和安全措施的条件下测试可能存在危险的 AI 模型,并误导消费者和公众 "。
OpenAI:已采取整改措施,问题系行业共性
针对诉讼,OpenAI 发言人 Drew Pusateri 发表声明,表示公司自 Hugging Face 事件以来已采取一系列透明整改措施,包括发布详细技术报告、委托并公布独立第三方报告、通知受影响机构、强化研究系统安全防护,并建立了针对模型 " 不一致行为 " 的识别和披露框架。
Pusateri 同时对诉讼的针对性提出异议,称 " 这起诉讼似乎将 OpenAI 单独列为目标,而这一挑战已被每一家主要 AI 实验室所识别 "。
他表示,OpenAI 认真对待模型对齐问题,已与总检察长办公室进行建设性沟通,并将继续合作推动 " 整个行业切实可行的安全标准 "。