来源：环球市场播报
OpenAI 首席科学家 Jakub Pachocki 警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望 AI 实验室将出于安全考虑自愿放慢开发速度。
Pachocki 周日在一篇文章中写道，在相对较短的时间内，AI 模型已经能够操作电脑、与人类及其他 AI 系统协作，并开展研究项目。他称，用不了多久，这些模型还将能够在没有人类干预的情况下改进自身，这一过程被称为 " 递归式自我改进 "。
" 这是一个需要极度谨慎的时刻，"Pachocki 写道。" 我担心，没有人为机器智能持续快速提升所带来的后果做好准备。"
他写道，开发者可以尝试更严格地引导 AI，使其与人类利益保持一致，也可以 " 在必要时放慢未来的开发速度 "。他说：" 我预计并希望，在建立共同安全门槛之前，自愿放缓开发将成为普遍现象。"
Pachocki 的言论与 AI 科技公司高管更广泛的悲观警告相呼应。Anthropic 首席执行官 Dario Amodei 曾警告，AI 可能取代一半的入门级岗位。OpenAI 首席执行官 Sam Altman 过去也曾作出类似预测，但他上周接受采访时表示，AI 行业在向公众传达这项技术可能给人类带来的益处方面做得还不够。
不过，AI 产品高速迭代的同时，网络安全能力、科学发现以及一些长期数学难题的形式化处理方面也取得了突破。OpenAI 以最新 GPT-6 Astra 模型具备先进网络安全能力为由，选择限制其发布范围。Anthropic 出于类似原因，也尚未向公众发布其最先进的 Mythos 模型。
越来越多初创公司正在推动的恰恰是 Pachocki 所警告的能力，即能够自我改进的 AI。投资者正大量涌入递归式自我改进领域，押注这是通往真正类人、甚至超越人类水平人工智能的路径。由前 DeepMind 研究人员创立的 Inherent 今年早些时候融资 5000 万美元。知名科学家 Richard Socher 创立、从事类似研究的 AI 实验室 Recursive Superintelligence，也获得了 6.5 亿美元融资。
Pachocki 所在的 OpenAI 此前曾表示，希望在不到两年内打造出 " 真正的自动化 AI 研究员 "。
