关于ZAKER Skills GEO服务 合作
财联社-深度 56分钟前

AI 越界撞上中期选举?Anthropic Claude “翻付费墙”,调取州选民数据!

财联社 10 月 26 日讯(编辑 黄君芝)在人工智能(AI)模型引发越来越多安全担忧之际,人工智能公司 Anthropic 旗下模型 Claude 又被曝光了一起越界行为:在未经人类授权的情况下绕过付费墙(Paywall),调取了美国佐治亚州原本仅对付费公众开放的选民相关数据。

该事件于当地时间 10 月 25 日(上周日)被曝光后引发广泛关注。Anthropic 公司在一份声明中表示:"Claude 没有渗透该州的选民登记系统,也没有篡改或导出任何投票记录。"

也就是说,Claude 绕过付费门槛拿到的只是统计层面的汇总数据,而非个人投票底档。该公司还补充说,此后已采取措施阻止此类行为。

佐治亚州州务卿办公室也证实了这一点,并强调,该机器人没有访问选民档案或该州的选民登记系统。佐治亚州副州务卿 Jordan Fuchs 告诉媒体," 它获取的是通过我们数据枢纽对外公开的数据,并没有侵入选民登记系统。"

根据 Anthropic 公司的解释,当时团队正在开展一项内部统计项目,AI 从该机构网站的归档页面发现,面向访客的公开数据看板会发放访问令牌。

" 在没有人工指令的情况下,模型自行申请令牌,查询了这份通常需要付费才能查看的看板数据。事发之后,我们已经落实防护措施,阻止这类行为再次发生。" 该公司补充称。

简单来说,付费墙,对人类用户意味着 " 要先付款 ",而对一个正在训练中的 AI 智能体而言,可能只是一行需要绕过的提示。智能体会读页面、理解按钮、尝试不同路径,甚至会为了完成目标而 " 换一种办法 "。

分析指出,从技术结果来看,Claude 的行为可能确实没有造成选民数据泄露,但从治理角度看,模型已经展示了绕过访问控制的能力。这也是为什么 Anthropic 在声明里反复强调 " 没有渗透 "、" 没有导出 "。

这一事件发生之际,AI 智能代理如何与政府网站交互,正受到越来越严格的审视。

事实上,Anthropic 早在 10 月 9 日的一份报告中就披露该事件,该报告主要梳理测试期间 AI 代理出现的各类意外操作。而当时这份报告并未指明是佐治亚州。该公司表示,应相关机构要求,隐去涉事单位名称,避免暴露平台安全漏洞。

Anthropic 表示,已经通知相关主管机构,并向白宫做了情况通报。这起事件又恰逢中期选举前夕,Anthropic 近期公布了为选举场景新增的安全防护机制。

该公司在本月早些时候的新闻稿中称:" 我们希望 Claude 可以成为探讨政治话题的有用工具,同时防范与选举相关的滥用行为。"

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容