来源：环球市场播报
一名 Anthropic 公司研究员出于担忧，选择离开人工智能行业。他认为该实验室及其竞争对手正竞相研发人类无法掌控的 AI 系统，这也表明头部 AI 企业内部的安全顾虑正不断加剧。
专门通过海量数据训练新型 AI 模型的研究员雅各布考克森于周二表示，他将离开这家公司，原因是不想参与全行业争相研发可自我迭代 AI 系统的竞赛。他担心这类系统可能彻底失控并毁灭人类。
这位 27 岁的英国籍研究员曾主修数学。他称，业内许多同行如今会用 " 决战时刻 " 和 " 终局 " 这类词汇，来描述走向可自我改进模型的发展趋势。
考克森称：" 按照当前态势，很多极端推演场景都有可能成真，到明年年底情况或许就会失控。" 他还补充道，各家企业以及中国新兴 AI 企业之间相互竞争时，安全层面的取舍权衡不可避免。
