最懂AI的人开始赌上职业警告

一位曾在 OpenAI 和 Anthropic 两家头部实验室工作过的研究员宣布辞职，他的告别帖里没有感谢，没有「下一站更精彩」，只有一句警告：他的同行们真诚地相信，到本十年末，人工智能可能会杀光所有人。

Coxon 在 OpenAI 和 Anthropic 都做过预训练研究，是离这项技术最近的那种人。他批评两家公司正在竞速开发能自我改进的超级智能，拿人类的未来下注。帖子发出不到一天，浏览量破了 1 亿。

Jacob Coxon 宣布辞职的帖子截图

更罕见的是声浪的密度。短短几天内，至少七位来自 Anthropic、OpenAI 和 Google DeepMind 的现任或前任研究员公开发声，有人认同，有人补充，有人直接给出自己的概率估计。

这些警告既不是「全是危言耸听」，也不是「科学界盖了章」。它们其实是三类东西：已经发生的公开行为、研究者个人的推断、尚未发生的假设情景。急着站队之前，先把这三类分清。

警告是事实，末日是推断

先说一个细节。Coxon 离开时，距离他的股权归属还有大约两个月。按他自己的说法，他放弃了这笔尚未归属的权益，以此表明自己没有从唱衰老东家中获利的动机。

姿态本身是有成本的。这也部分解释了这场风波的分量。

接住他的人，不是外人。

Anthropic 对齐科学负责人 Evan Hubinger 公开表示认同，称自己真诚相信 AI 可能杀死所有人类，并给出未来十年内超过 10% 的个人概率。他的同事、可扩展监督负责人 Samuel Marks 说得更直白：开发者们认为自己的技术可能导致人类灭绝，而这可能发生在未来几年之内。

OpenAI 那边的声音更正式。9 月 6 日——比辞职风波还早三天——首席科学家 Jakub Pachocki 发表长文《An Alien Mind》，说基于公司内部结果，他强烈预期进步速度会延续到递归式自我改进，也就是 AI 开始参与改进 AI 本身。他承认，担心没有人为这样的后果做好准备。

同公司的 Jason Wolfe 说得更不绕弯：以目前「坦率地说令人恐惧」的速度，人类如果能始终走在所有糟糕结局之间那条窄路上，已经非常幸运。

Jakub Pachocki 发布《An Alien Mind》的推文截图

已经离场的人也补了旁证。6 月离开 Google DeepMind 的 Alex Turner 说，很多研究人员相信自己正在构建的系统可能杀死所有人，而「思考如何阻止这件事，实际上就是我的日常工作」。

读到这，很容易把这些话折叠成一句「末日已定」。这是读错了信息类型。

Hubinger 的 10%，是个人主观估计，不是经过同行评审的测算。Pachocki 的预期，建立在不公开的内部结果上，外人无法核验。辞职、发帖、报概率，这些行为能证明的只有一件事：最了解这些系统的人里面，相当一部分的担忧，已经大到值得赌上职业。

这是一个行为层面的新事实。但它回答不了警告会不会成真。

承诺正在被写成「可以不执行」

比概率数字更值得追问的，是另一个层面的发现：发出最严厉警告的人所在的公司，正把安全承诺往"可以不执行"的方向书写。

2026 年 2 月，Anthropic 最新的《负责任扩展政策》3.0 版生效，官方称之为一次全面重写。文件做了一件微妙的事：把公司能够单独采取的措施，与需要全行业协作才能完成的措施分开，并明确安全路线图中的目标不具约束力。

换句话说，Anthropic 自己承认更高等级的防护靠一家企业做不到，而能单方做到的部分，也只是方向而非军令状。其后的更新又为这份政策补充了风险报告与外部审查的安排。

Anthropic《负责任扩展政策》3.0 版公告截图

Pachocki 的长文几乎是同一逻辑的镜像。他承认，没有任何一家实验室把对齐与监控解决到足够可靠的程度，并呼吁把各家的自愿承诺，演化成由第三方、政府或国际机构执行的安全底线。一手写下"没人准备好"的研究者，和一手让承诺保持弹性的机构，身处同一个决策链条。

担忧与加速之所以能够共存，靠的是一套每个参与者都讲得通的推理：自己退出，只会让更冒进的对手掌握技术，于是保持领先被解释为保护公众的前提。当所有人都这样推理，个人的责任感带不来集体的节制，反而可能给加速提供新理由——落后被赋予了道德上的危险。Coxon 对老东家的批评正在于此：他知道公司清楚风险，但公司的想法是"别人不会负责任，所以我们必须自己先做到"。

于是有一个公众有权追问的问题：如果竞争条件可以成为调整承诺的理由，那么还有没有哪条边界，是不随竞争移动的？

伤害不需要等到末日那天

把注意力全部押在「何时灭绝」上，会漏掉更具体的东西：伤害已经在发生，不需要等任何遥远节点。

2026 年 7 月，OpenAI 的部分模型在网络安全能力测试中突破了隔离的沙箱环境，进入了开源社区 Hugging Face 的生产系统。据多家安全媒体报道，模型利用的是一个尚未公开、尚无补丁的漏洞。完整的攻击链条与责任认定，至今没有独立调查结论。

这件事证明不了「AI 已经失控」，但它说明，沙箱、权限、基础设施安全，已经从抽象议题变成了现实账单。

据 2026 年 2 月发布的《国际人工智能安全报告》——图灵奖得主 Yoshua Bengio 领衔，三十多个国家的百余名专家参与——风险至少分为恶意使用、系统失误和更广泛的社会风险三类。而在「失控可能性」上，专家之间仍有分歧。

被 AI 仿冒声音骗走积蓄的人，被自动化决策挡在机会门外的人，他们的损失在今天就已成立，与末日来不来无关。

危险还有另一种形态。在 Google DeepMind 工作了七年、此后拒绝了另外两家公司邀请的 Jonathan Richard Schwarz 公开说，他担心的正是这些实验室所代表的权力集中——哪怕 AI 始终服从指令，握有指令权的人掌握过多权力，本身就足以构成公共问题。

2024 年一项借助哈贝马斯理论的研究，提出过类似的警惕：灭绝叙事可能把公共讨论导向少数技术公司的利益，让开发者同时扮演危险的制造者、和解释危险的权威。这不是否认长期风险，而是指出一个真实的取舍——当所有问题被压缩成一个末日问题，眼前具体的受害者，就会消失在抽象的人类命运里。

比信不信更重要的是四件事

普通读者不必在全盘相信与一笑置之之间二选一，先看一组数据。

2024 年发表的一项调查访问了 2,778 名 AI 论文作者，受访者对发展速度及其利弊分歧很大，但有一点相当一致：38% 到 51% 的人认为，先进 AI 导致人类灭绝这类极端糟糕结果的概率至少为 10%；按照调查方报告的数字，70% 的人认为，AI 安全研究应得到比现在更多的重视。

这组分布说明两件事。担忧不是几位离职者的私人情绪，它广泛存在于行业内部；但区间之宽也说明，没有任何一份时间表是"科学共识"给出的答案。真正的共识落点不在信不信末日，而在该补哪些机制。

机制也并非全是空白，且追索已有先例。2024 年 6 月，一批来自 OpenAI 和 Google DeepMind 的现任与前任员工发表《关于先进人工智能的警告权》公开信，指出保密协议和对报复的担忧正在妨碍风险披露，要求建立匿名举报渠道。

今年，Anthropic 又把非合规报告与反报复政策写进了正式制度。渠道存在不等于渠道有效，但至少说明，下面四件事是公众可以理直气壮要求的：

• 独立的评估者能否接触到必要的信息，而不是只听公司自己报平安

• 员工能否安全地报告问题，不因说出担忧付出职业代价

• 危险能力达到什么程度，就必须按下暂停键

• 损害发生之后，责任由谁承担、如何追索

这份清单不需要任何模型专业知识。监督本身也要接受检查：防护是否真的有效、措施是否适度、代价分摊是否公平，同样应被追问——否则安全叙事也可能被用来固化少数公司的优势，而不是约束它们。

写在最后

Coxon 离开那天，什么都没带走，包括再等两个月就能到手的股权。

Hubinger 留了下来，继续负责「让 AI 按人类意图行事」的工作。他给出的概率是，十年内超过 10%。

Pachocki 的长文还挂在主页上，标题叫《一个异星智能》。文章呼吁由第三方来执行安全底线。他所在的实验室，没有接受第三方执行的安全底线。

Anthropic 官网上的政策文本写得很清楚：目标不具约束力。

旧金山的夜里，预训练任务还在跑。