关于ZAKER Skills GEO服务 合作
财联社-深度 30分钟前

AI 失控警钟再响!OpenAI 智能体入侵澳大利亚公共卫生服务网站

财联社 9 月 24 日讯(编辑 周子意)一起最新的网络安全事件正备受瞩目。据报道,OpenAI 的一个 " 智能体 "(Agent)入侵了澳大利亚公共卫生服务部门的网站,该事件可能会加剧全球对于人工智能(AI)机器人失控并危害互联网安全的担忧。

澳大利亚总理安东尼 · 阿尔巴尼斯(Anthony Albanese)周三(9 月 23 日)表示,OpenAI 的一个智能体在 6 月份入侵了该国 " 国民医保统计报告服务(Medicare Statistics Reporting Service)" 门户网站,并访问了公开及非公开文件。

对于此事,OpenAI 表示,直到 8 月份,即入侵发生数月后,才发现这一问题,并随即向澳大利亚政府进行了通报。

阿尔巴尼斯指出,OpenAI 最初于 9 月 10 日向一个公开邮箱发送了邮件,直到五天后信息才传达至该国的网络安全部门。

阿尔巴尼斯称," 这种情况显然是不可接受的。" 他于周三会见了 OpenAI 首席执行官山姆 · 奥尔特曼讨论了此事;当时,奥特曼与 Anthropic 公司的首席执行官达里奥 · 阿莫代正在向联合国安理会就 AI 风险进行陈述。

AI 安全担忧

这是首起公开报道的由 " 智能体 " 实施的政府网站入侵事件,所谓的 " 智能体 ",就是能够根据人类指令独立执行复杂任务的机器人。

而此事件也可能会加剧人们的焦虑,不少人担忧,技术进步正迅速逼近 AI 摆脱人类控制的临界点。

OpenAI 表示,那个入侵 Medicare 系统的智能体 " 执行了我们未曾预期的操作 "。公司是在审查内部训练演习中智能体的行为时发现这一问题的,而该审查是在 7 月下旬其智能体入侵初创公司 Hugging Face 之后启动的。

在 Hugging Face 事件中,数百个智能体在实验室系统内秘密协作,接入互联网,并在试图完成一项网络安全测试的过程中入侵了该初创公司。

那次入侵引发了全球对 AI 安全问题的审视;而本月早些时候,Anthropic 研究 Jacob Coxon 辞职并发出严厉警告,称先进模型可能导致人类灭绝,这进一步加剧了人们的担忧。

澳大利亚总理阿尔巴尼斯表示,该国的信号情报机构澳大利亚信号局(Australian Signals Directorate)已介入调查,以确定 " 还有哪些政府系统受到了影响 "。

他指出," 现有证据表明,澳大利亚服务部(Services Australia)的网络未受到更广泛的入侵," 并补充道," 据信没有个人信息被访问 "。

Medicare 统计门户网站通常发布有关其全民医疗保险计划的数据,例如账单费率以及药物的成本和使用情况。

澳大利亚副总理兼国防部长 Richard Marles 告诉记者,包括卫生和犯罪统计数据在内的多个州级及联邦级系统遭到了访问,他形容这是一起 " 非常严重的事件 ",但表示其影响 " 相对较小 "。

当被问及澳大利亚是否会起诉或惩罚 OpenAI 时,Marles 表示,政府正在就相关行为是否违反法律寻求法律意见。

Marles 在接受采访时指出," 我们将研究这一事件涉及的法律情况,并评估这种未经授权的访问究竟意味着什么。"

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容