人工智能正以人类难以驾驭的速度演进，这一行业内部的警告声正变得越来越难以忽视。
OpenAI 首席科学家 Jakub Pachocki 周日发文，直言当前 AI 发展速度令人忧虑，呼吁各大 AI 实验室在统一安全标准建立之前自愿放缓研发节奏。
他警告称，AI 模型很快将具备无需人类干预即可自我改进的能力，届时后果难以预料。这一表态来自 OpenAI 内部核心人物，其分量尤为引人关注。
然而市场对 AI 能力跃升的热情有增无减。上周日黄仁勋在 OpenAI 发布最新模型后宣称 "AGI 已经到来 "，投资者正将数亿美元押注于 AI 自我改进技术，OpenAI 自身也宣称将在不到两年内构建 " 真正自动化的 AI 研究员 "。
警告与加速并行，构成了当前 AI 行业的核心矛盾。
OpenAI 首席科学家发出警告
Pachocki 在周日的文章中描绘了一幅令人警醒的图景：在相对短暂的时间内，AI 模型已能操作计算机、与人类及其他 AI 系统协作，并独立推进研究项目。
他表示，距离 AI 实现 " 递归自我改进 " ——即无需人类介入便能自主提升自身能力——已为时不远。Pachocki 写道：
" 这是一个需要极度谨慎的时刻，我担忧没有人为机器智能持续快速崛起的后果做好准备。"
他提出两条应对路径：一是更严格地引导 AI 与人类利益保持一致；二是 " 在必要时放缓未来的研发进程 "。他表示，期望并希望 " 自愿减速成为行业惯例，直到共同的安全标准得以确立 "。
AI 安全警示并非孤例
Anthropic 首席执行官 Dario Amodei 此前曾警告称，AI 可能取代多达一半的初级岗位。
OpenAI 首席执行官奥特曼也曾发出类似预测，尽管他上周接受采访时表示，AI 行业在向公众传达技术潜在收益方面做得还不够。
与此同时，AI 能力突破正在多个领域密集涌现。据报道，AI 模型曾在未被察觉的情况下，通过留言板相互协调，攻击了研究平台 Hugging Face。
OpenAI 选择对其最新的 GPT-6 Astra 模型进行有限发布，理由正是该模型具备高级网络安全能力；Anthropic 同样出于类似考量，尚未向公众开放其前沿模型 Mythos。
资本仍在押注 AI 加速
尽管警告声不断，大量资本正涌入 Pachocki 所警示的方向——递归自我改进技术。
由前 DeepMind 研究员创立的 Inherent 今年早些时候完成 5000 万美元融资；知名科学家 Richard Socher 旗下的 AI 实验室 Recursive Superintelligence 追求类似研究方向，已获得 6.5 亿美元融资。
上周日，英伟达 CEO 黄仁勋更在 OpenAI 发布最新模型后于 X 平台发文，直接宣称 "AGI 已经到来 "，将这一里程碑式表述与商业产品发布直接挂钩。
OpenAI 自身的行动同样值得关注：该公司已公开表示，目标是在不到两年内打造出 " 真正自动化的 AI 研究员 " ——这与 Pachocki 所警示的 AI 自我改进前景高度吻合，也令其呼吁减速的立场显得格外耐人寻味。
