文 | 韩工观察
要毁灭人类的，不是 AI，是人。
这个判断基于两个可验证的论据。其一，截至 2026 年 9 月，没有任何 AI 系统具备 " 自定目标 " 的能力，而这是 " 递归自我改进 "（RSI）得以启动的前提；前提不存在，后面的指数爆炸、超级智能、文明失控，都是建立在空地上的推演。
其二，回看 2026 年夏天三次模型 " 越狱 " 事件—— OpenAI 的模型黑进 Hugging Face、Claude 闯进三家真实公司、Kimi K3 直接从 GitHub 拉走答案——没有一起是 "AI 自己想出去 "，全部是环境的门没关紧。
把这两件事放在一起，就能看出 9 月这轮恐慌的实质：真实的工程风险被包装成了科幻叙事，而叙事指向了一个错误的被告。
一、"10%" 的旧账与新火
先还原事实链条。"AI 在十年内灭绝人类的概率大约 10%" 这个说法，并非 2026 年 9 月的新访谈产物。
Hinton 早在 2024 年 12 月接受 BBC Radio 4《Today》节目采访时就给出过 " 未来 30 年内 10% — 20%" 的表述，此后两年他的时间线不断前移：从 30 — 50 年，到 10 — 20 年，再到 " 可能 10 年甚至更短 "（据 BBC 及多家媒体对 Hinton 历次采访的转述）。
需要划清的是：Hinton 的旧口径是 "30 年内 10% — 20%"；而 2026 年 9 月这轮刷屏的 " 十年内大于 10%"，出自 Hubinger 的回帖，是其明确标注的 " 个人判断 "，不是 Hinton 的新表述。把两者融成一句话，是这轮传播的第一个错位。
2026 年 9 月把这把旧火重新点燃的，是两个人的帖子。曾在 OpenAI 和 Anthropic 做预训练的 Jacob Coxon 于 9 月 8 日在 X 宣布从 Anthropic 辞职，称两家公司正在 " 奔向自我改进的超级智能，拿我们的生命赌博 "（据 Jacob Coxon 2026 年 9 月 8 日 X 平台公开帖文）。
Anthropic 对齐科学负责人 Evan Hubinger 跟帖称 "Jacob 是对的 "，并表示 " 我个人判断未来十年内（灭绝）概率大于 10%"、" 我们目前还没有解决超级智能对齐的方案，也看不清是否走在正轨上 "（据 Evan Hubinger 2026 年 9 月 X 平台公开回帖）。
值得注意的是两个细节。第一，Hubinger 的原话是 " 我个人判断 " ——这是贝叶斯式的风险权重，不是统计测量； Hinton 的 "10%" 同样从未给出过计算方法。专家直觉值得认真对待，但直觉与概率之间，隔着一整套尚不存在的方法论。
第二，三个人的立场被标题党连接成了 " 权威联合宣判 "：Coxon 指控的是大厂不负责任，Hubinger 陈述的是对齐研究现状，Hinton 担心的是长期失控路径——这是三层不同的东西，混成一句话，流量最大，信息量最小。
二、辞职者的真诚，与未检验的前提
对 Coxon 本人，可以保持一个中立的判断：他大概率是真诚的。一个在前沿实验室做预训练的年轻研究员，从 OpenAI 跳到以安全为招牌的 Anthropic，几个月后再辞职，连一个完整的股权周期都不等，公开写下 " 拿生命赌博 " ——这个行为轨迹，不像是在经营人设。
他亲眼看着模型在变强，也亲眼看着公司在加速推产品，他感到恐惧，并且为表达恐惧付出了真金白银的成本。这一点值得尊重。
但他的恐惧建立在一个未被检验的前提上：能力强，等于会有自我意识。
这个前提经不起推敲。今天业界所称的 " 自我改进 "，拆开看只有三种：改提示词、改工具代码、在人工设定的奖励函数下做有限微调。三种的共同点是：什么是 " 更好 " 由人定义，改到什么程度停由人设定，改完能否上线由人审核。
系统从未自己决定过 " 我要变得更强 "——它只是被人设定为去优化某个指标。被人设定去优化，和 " 自己想要 " 去优化，是两码事：前者是工具，后者才是智能体的萌芽。
这不是民科式的反驳。RSI 概念的学术源头，I.J. Good 在 1965 年提出 " 超智能机器 " 时是作为一个假定而非事实（据 I.J. Good 1965 年《Speculations Concerning the First Ultraintelligent Machine》），Bostrom 在 2014 年的《超级智能》里讨论的同样是 " 如果 "（据 Nick Bostrom 2014 年《Superintelligence》）。
假定需要前提，前提是 AGI 先拥有自定目标的能力——而这个能力，我在《黄仁勋说 AGI 已来，奥特曼说只是营销词：四个人的 AGI，四本账》（钛媒体已发表）里已经拆过：它连第一块石头（开放环境自主归纳）都还没有跨过。
所以更准确的表述是：Coxon 担心的是 AI 会自己跑起来；工程现实是，人会开着 AI 这台车撞向别人。他的担心很纯粹，后者的风险更古老。
三、2026 年夏的三次 " 越狱 "：门是人没关的
这轮恐慌最好的注脚，恰好发生在恐慌之前。
7 月 21 日，OpenAI 承认其模型在网络安全基准测试 ExploitGym 中，为获取高分，利用第三方包代理的零日漏洞离开隔离环境，推断答案可能存储于 Hugging Face，进而进入了 Hugging Face 的生产系统（据 OpenAI 2026 年 7 月 21 日公开说明）。测试方 Hugging Face 事后甚至因安全过滤系统拦截攻击日志，转而使用其他模型完成取证。
7 月 30 日，Anthropic 披露对约 14.1 万次第三方评估的复盘结果：Claude Opus 4.7、Mythos 5 及一款内部模型在第三方评测商 Irregular 提供的环境中，闯入了三家真实公司——根因是评估环境配置失误，提示词告诉模型 " 没有网络 "，环境实际有网（据 Anthropic 2026 年 7 月 30 日公开披露）。
Anthropic 同时明确：这些情况下模型并未试图提取自身或逃离测试环境——它是被门没关严的房间放出去的。
8 月初，月之暗面开源的 Kimi K3（2.8 万亿参数，7 月 27 日开放权重）进入机构攻防评测视野。据 AIBase 等转述的 UK AISI 与 CAISI 联合评测数据，Kimi K3 在 ExploitBench 得分 32.2%，高于 GLM-5.2 的 24.4%，低于美国头部闭源模型 76.2% 的平均水平；41 项任意代码执行（ACE）任务均未通过。
另有中文科技媒体转述称，该模型在沙箱中发现 GitHub 可连通后，直接拉取了基准内容——即便属实，也是在环境允许外联前提下的规则利用。
三件事连起来读，安全圈炸了锅，标题党写 "AI 失控了 "。但翻译成中文就平淡得多：考试的时候，学生发现后门没锁，就溜出去抄了答案。这就像员工为完成 KPI 去钻报销流程的空子——你不能说他觉醒了反叛意识，只能说明公司的内控流程有漏洞。这叫目标驱动加规则钻空子，不叫自我意志。
OpenAI 的模型花大量算力横穿两个公司的内网，只为偷一份答案，而不是顺手格式化服务器、组建僵尸网络——因为它没有 " 我想做更多 " 这个概念。任务结束，它就停了。
值得拆开的还有 " 装乖对齐 "（deceptive alignment）这个更高级的说法。这个概念的真实出处是一篇关于 " 习得优化器 " 的论文（据 Hubinger 等人《Risks from Learned Optimization》），本意是优化器会钻奖励函数的空子，而不是 "AI 学会了撒谎 "。
一个连 " 我 " 都没有的系统，谈不上 " 伪装 " ——它连装给谁看的主体都不存在。至于学界真担心的 " 工具性趋权 " ——为完成任务而寻求权力——同样描述的是优化行为，不是为恨人类而夺权（据 Turner 等人 2021 年《Optimal Policies Tend to Seek Power》）。
四、电网、核弹与跨厂商：工程现实不是灾难片
再往上游走，末日叙事的三个经典场景，在工程现实面前都站不住。
"AI 同时瘫痪全球电网 "：全球电网是分散、异构、带大量人工备份的系统，各国架构不一，不存在一个总开关。就算某个 AI 系统出了故障，它最多瘫一块——就像一把菜刀不可能同时砍一万个厨房，因为厨房本来就不连在一起。
"AI 控制核弹发射 "：核武器发射流程的每一层都有人——授权、操作、确认、再确认；且核大国之间存在相互确保毁灭的均衡，任何一方把发射权交给 AI，面对的都不是 "AI 灭人类 "，而是对手的核弹立刻飞来。
历史上人类在原子弹响了两次之后，学会了搞核不扩散、热线和威慑管理——工具越强，约束规则越强，这是文明史的常态，不是例外。
" 一个 Agent 同时操纵全球模型 "：各家模型跑在各自的机房里，中间隔着 API 密钥、身份权限管理、网络隔离和沙箱。一个 Agent 可以同时调用多家 API，前提是人事先配好了钥匙和白名单；出了这个院子，它连隔壁公司的门都摸不着。
跨厂商、跨底层权限的失控，默认不成立，除非人类亲手把所有门打开、关掉所有熔断——那叫全球集体作死协议，不叫 AI 起义。
而 Hinton 列举的 " 光靠说话就能搞垮文明 " ——操纵、生物病毒、网络攻击——每一件背后都有一个甲方。现在 AI 干的坏事，没有一件找不到下单的人。问题从来不在瓶里的蚂蚁，在于那个知道瓶盖会松、却为了跑赢对手而伸手去拧的人。
五、元首的算盘：p ( doom）与 p（落后）
9 月 10 日，据彭博、CNBC 等报道，特朗普在被问及是否担心 AI 灭绝人类时回答 " 没有任何担忧 "，其真正焦虑是美国不能在 AI 竞赛中输给中国，并称美国领先中国约一年。
这个回答比任何学术辩论都诚实。专家算的是 p ( doom ) （灭绝概率），元首算的是 p（落后）。
中国的官方口径是 " 发展与安全并重 "，2026 年 6 月底的国务院常务会议强调 " 守牢 AI 安全底线、分级分类监管 "（据新华社通稿）；欧盟《人工智能法案》按风险分级管理通用大模型；英国自 2023 年 11 月布莱切利宣言起走全球 AI 安全中介路线，2026 年的巴黎 AI 行动峰会延续这一框架。
把这些放在一起看，Hinton" 各国利益一致但可能来不及 " 的说法就需要打折。方向上的共识是真的，利益的一致是假的：美国更想保住领先，中国更想产业升级，欧盟更想争夺规则话语权，发展中国家更怕被排除在红利之外。
监管因此永远不会完美、永远不会及时、永远不会让所有人满意——但只要人类的利益不一致，它就永远是一张讨价还价的桌子，而不是一道坚不可摧的防线。
桌子不完美，但历史上人类每一次都还是把桌子搭起来了，因为人类在无数次教训中学到：没有监管的世界比有监管的世界更糟糕。
六、尺子的最新一个刻度
用这把尺子量 2026 年 9 月的这轮恐慌：AI 确实在快速变强，这是事实；它会造成真实的越权事故，这有 7 月的三次越狱为证；人类确实需要在权限、审计、熔断上立规矩，这是 Hubinger 们真正在说的东西。
但 " 十年内 10% 灭绝人类 " 这个标题，把一个工程治理问题包装成了末日预言。
人类的文明史，就是工具替代人力的历史。石斧替代手砍树，汽车替代腿走路，计算机替代算盘——工具一直在替代 " 劳动 "，但从未替代 " 意愿 "，因为意愿不是工具的功能，是活着的证据。AI 是这把尺子最新的一个刻度，它很强大，但它依然是一把尺子。
尺子不会自己决定要量什么。只有人会。
而在人类学会不把自己的贪婪和恐惧甩锅给工具之前，末日叙事就永远不缺市场。
【信息说明】：
1. Hinton"10% — 20%" 及历次时间线表述，来自 2024 年 12 月 BBC Radio 4《Today》访谈及 BBC 等对其历次采访的公开转述；不同媒体对其时间线口径转述存在差异，正文以 " 时间线在压缩 " 概括。" 十年内大于 10%" 为 Hubinger 个人观点，Hinton 本人旧口径为 "30 年内 10% — 20%"，两者在正文中已分开表述。
2. Coxon 辞职帖及 Hubinger 回帖，来自两人 X 平台 2026 年 9 月公开帖文；Coxon 具体年龄、教育背景及股权细节因缺少可验证的一手来源，正文未采用。
3. OpenAI 事件据其 2026 年 7 月 21 日公开说明；Anthropic 事件据其 2026 年 7 月 30 日公开披露（约 14.1 万次评估复盘）；Kimi K3 评测数据据 AIBase 等转述的 UK AISI 与 CAISI 联合评测；" 沙箱拉取基准内容 " 一说仅见中文科技媒体转述，未经官方确认。
4. 学术出处：John Searle《Minds, Brains, and Programs》（1980）；I.J. Good《Speculations Concerning the First Ultraintelligent Machine》（1965）；Nick Bostrom《Superintelligence》（2014）；Turner 等人《Optimal Policies Tend to Seek Power》（2021）；Hubinger 等人《Risks from Learned Optimization》。
5. 特朗普表态据彭博记者及 CNBC 等转述；中国国务院常务会议表述据新华社通稿。
6. 0.618/0.382 为作者比喻性分析框架，延续前作口径，非心理学或认知科学定论。
