来源:环球市场播报
当地时间周四,一名美国法官阻止了五角大楼将 Anthropic 列入黑名单的决定,这是这家 " 克劳德 "(Claude)开发公司与军方就战场人工智能安全问题展开的高风险斗争中的最新转折。
Anthropic 在加利福尼亚州联邦法院提起的诉讼 指控,国防部长皮特 · 赫格塞思在将 Anthropic 列为 " 国家安全供应链风险 " 时越权——政府可将这一标签用于那些使军事系统面临敌对势力潜在渗透或破坏风险的公司。
赫格塞思这一史无前例的举措——源于 Anthropic 拒绝允许军方将 AI 聊天机器人 Claude 用于美国监视或自主武器——导致 Anthropic 被排除在某些军事合同之外。Anthropic 高管表示,此举可能使公司蒙受数十亿美元的业务损失和声誉损害。
Anthropic 表示,当前的人工智能模型可靠性不足,无法安全地应用于自主武器,且公司反对国内监控,认为这侵犯了公民权利;但五角大楼则认为,私营公司不应有权限制军事行动。
由前总统拜登任命的美国地区法官丽塔 · 林在一份长达 59 页的裁决书中作出上述裁定,她认定五角大楼的决定 " 非法且毫无依据 "。
" 空洞地援引国家安全,并不意味着可以对政府批评者进行惩罚和报复," 她在裁决书中写道。
Anthropic 公司此次被列为供应链风险,是美国企业首次根据一项旨在保护军事系统免受外国破坏的鲜为人知的政府采购法规被公开列为供应链风险。
Anthropic 公司在 3 月 9 日提起的诉讼中指控,政府因其对人工智能安全问题的观点而进行报复,侵犯了该公司根据《宪法》第一修正案享有的言论自由权。该公司表示,政府未给予其对该认定提出异议的机会,这违反了其根据《宪法》第五修正案享有的正当程序权利。
诉状称,该决定既违法,又缺乏事实依据,且与军方此前对 " 克劳德 " 的赞誉相悖。
据法庭文件显示,美国司法部反驳称,Anthropic 拒绝解除限制可能会导致五角大楼在如何使用 " 克劳德 " 方面产生不确定性,并可能在作战行动中导致军事系统瘫痪。