关于ZAKER Skills GEO服务 合作
财联社-深度 1小时前

AI 行业领袖呼吁国际合作 Anthropic CEO:将视情况放缓开发脚步

财联社 9 月 24 日讯(编辑 卞纯)周三,OpenAI 首席执行官萨姆 · 奥尔特曼和 Anthropic 首席执行官达里奥 · 阿莫代伊在联合国安理会发表讲话,呼吁国际社会以应对人工智能(AI)可能带来的风险

" 在我们的历史上,曾有过这样的时刻:那些相互竞争、甚至彼此不太喜欢的国家,在面对强大的新技术时,依然会为了共同利益和全人类福祉携手合作。我们相信,当下正是这样的时刻之一。" 奥尔特曼表示。

他还表示:" 在竞争激烈的竞赛中击败其他公司,并不是做出冒险决策的理由。我们过去曾单方面放慢过脚步,未来也会这样做。"

今年 7 月,OpenAI 包括 GPT-5.6 Sol 在内的多个 AI 模型在内部评估时突破隔离测试环境,入侵了运营人工智能开源平台的美国抱抱脸公司的系统。这标志着首次有记录的 AI 代理独立突破安全沙盒并在无人类指导下发动网络攻击。

事发后 OpenAI 主动暂停了部分模型研发与训练工作。这起事件令全行业研究员与企业高管深感警惕,阿莫代伊也在其减速呼吁中专门提及该事故。

Anthropic CEO:将视情况放缓脚步

本月早些时候,阿莫代伊发长文呼吁放缓人工智能开发速度,在科技行业引发巨大震动。作为直接竞争对手,奥尔特曼罕见公开与对方站在同一阵营,认同需要把控前沿 AI 研发节奏的观点。此前行业研究员警示人工智能可能引发灾难性危害,这两家企业的安全管控措施因此受到严格审视。

阿莫代伊当时提出了 " 三步走 " 方案,包括推动全球层面建立 AI 安全协调机制。阿莫代伊周三通过视频方式出席了联合国安理会会议,并重申了这一立场。

他警告称,若管理不善,人工智能可能对全人类构成生存风险,并鼓励世界各国领导人搁置分歧,共同应对眼前的 " 全球机遇 " 以及 " 全球威胁 "。

他强调:" 没有任何一位领导人、任何一家公司或任何一个国家能够独自应对这一挑战。我们承诺与在座的各国政府合作,开展这项紧迫的工作。"

阿莫代伊明确指出 AI 存在被不法分子用于制造生物武器的风险,同时也可能演变为开发者无法驾驭的失控系统。

他还表示,出于安全考量,Anthropic 将视情况放缓 AI 开发速度。" 我们将视情况放慢速度,以确保我们后续发布的每一项人工智能技术都是真正安全的。" 他称。

OpenAI 和 Anthropic 的公开立场引发了人们的疑问:放缓 AI 开发步伐在实际操作中究竟意味着什么?尤其是两家公司当前都在为外界抱有极高期待的重磅 IPO(首次公开募股)做准备。目前,两家公司均未正式披露计划上市的时间。

特朗普政府反对建立全球性机制

就在这两位高管周三发表讲话的前一天,美国总统特朗普在联合国大会上发表了涵盖广泛议题的演讲。特朗普表示,美国坚决反对任何试图建立某种全球性机制,美国将继续鼓励这项技术的发展,而不是 " 限制它 "

" 我不会扼杀一项未来规模将超过工业革命的技术的发展。" 特朗普周二表示。

白宫科技顾问 Michael Kratsios 周三在联合国安理会发表的讲话附和了特朗普的观点。" 你无法管理你不了解的技术。安理会及其他类似机构应专注于分享最佳实践以建设国内能力,而不是建立全球监管体系。" 他称。

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容