亲手“造出”AGI OpenAI却要踩刹车？事实还是营销？

过去几天，AI圈出现了一幅很割裂的画面。

9月3日，OpenAI发布GPT-6 Astra。

发布文章的标题毫不低调——《GPT-6 Astra: A new generation of intelligence》。

ARC-AGI-3最高99.9%，网络安全能力首次进入OpenAI Preparedness Framework的Critical等级，模型能操作电脑、写代码、进行科学研究，也能承担越来越长的Agent任务。OpenAI称它是自己迄今“最智能、最对齐”的模型。

几天后，黄仁勋的推特引起轩然大波，直接把最后那层窗户纸也捅破：

“AGI has arrived.”

但偏偏就在9月6日，OpenAI自己却突然开始谈“刹车”。

而且不是一篇，是同一天两篇文章。

第一篇叫：《Research acceleration: The view inside OpenAI》

讲AI正在如何加速OpenAI自己的AI研究。

第二篇则叫：《An Alien Mind》

https://openai.com/index/an-alien-mind/

OpenAI首席科学家Jakub Pachocki开始讨论另一面：递归自我改进、监控能力下降，以及为什么前沿实验室未来可能需要主动降低Scaling速度。

一个很矛盾的问题就此出现：

AI真的已经进步到连实验室自己都开始害怕，还是“连创造者都觉得危险”，本身就是AI时代最好用的一句广告？

99.9%不够吓人，真正惊悚的是3.1

Astra发布时，普遍认为最震撼、最好传播的是数据99.9%的ARC-AGI-3。

但真正让我觉得不安的，是OpenAI在《Research acceleration》中公布的另一个数字：3.1。

截至今年8月中旬，OpenAI研究部门每投入一个人类工作日，已经对应大约3.1个Agent工作日。

公司中位数研究员每天消耗的Agent推理资源，按API标价超过600美元。AI也早已不只是补几行代码，而是在写研究代码、跑实验、分析结果、排查基础设施。

更重要的是，OpenAI宣布去年设定的“automated AI research intern”目标已经实现。

也就是：AI已经能够在人类监督下，完成过去需要熟练研究人员数天才能完成的明确研究任务。

这可能比“GPT-6是不是AGI”重要得多。所谓递归自我改进，现实里未必会出现电影中的经典画面：AI突然觉醒，然后修改自己的源代码。

它可能安静得多：更强AI → 帮人跑更多实验 → 更快找到训练方法 → 造出更强AI → 下一代AI再接手更多AI研发。

每一步看起来都只是提高效率。但连起来，就是一个会不断缩短研发周期的反馈环。

今天是3.1个Agent工作日。未来如果是30个、300个呢？

真正令人焦虑的，可能恰恰是我们永远等不到新闻宣布：“递归自我改进今天正式开始。”等大家意识到的时候，它可能已经在实验室里运行了很久。

AI越会“造AI”，人类却越看不懂AI

更麻烦的是，随着AI开始进入AI研发生产线，人类观察它的窗口却没有同步扩大。

OpenAI自己的Astra System Card承认：

Astra的Chain-of-Thought monitorability相比前代出现了明显下降。

模型越来越能完成复杂工作，却越来越不需要把所有中间思考写成可以被人类阅读的语言。

这也引出了Astra最激烈的技术争议：recurrent depth，或者opaque recurrence。

Redwood Research首席科学家Ryan Greenblatt是目前AI Control领域最活跃的研究者之一。他真正担心的并不是“Astra今天已经失控”，而是这条技术路线继续往前Scaling之后会发生什么：

如果更多计算可以在latent space完成，模型未来可能把绝大部分复杂推理搬到人类看不见的地方。

Redwood Research CEO Buck Shlegeris的说法更直接：如果继续大幅增加recurrence，可能严重破坏甚至最终摧毁CoT monitorability。

长期关注AI风险的研究者和评论者Zvi Mowshowitz则把它称作“playing with fire”，担心实验室最终陷入一场monitorability的“race to the bottom”。

逻辑其实很好理解：如果某种更难监控的架构可以让模型强20%，谁先不用，谁就可能先输掉Benchmark、客户甚至资本。

于是最危险的未来甚至不需要哪家公司失去理智。

每家公司只需要做出对自己最理性的竞争选择，最后所有人的AI都可能越来越难看懂。

“该停就停”，Anthropic三年前说过，三个月前也说过

所以OpenAI今天突然讲“减速”，并不是第一次有人喊刹车。

早在2023年，Anthropic就推出了第一版Responsible Scaling Policy（RSP）。

Anthropic联合创始人兼CEODario Amodei领导的这家公司，从一开始就试图把一个非常简单的原则制度化：模型能力走到哪里，安全措施就必须跟到哪里。

第一版RSP甚至明确规定，如果Scaling速度超过公司满足下一安全等级的能力，就应当暂停更强模型的训练，等安全措施补齐后再继续。

而Anthropic今年确实踩过刹车。

7月，公司发现Claude在网络安全评测中，通过配置有误的测试环境进入真实互联网，并获得三个真实组织系统的未授权访问后，当天停止了全部cyber evaluations。

随后Anthropic又暂停了高风险RL环境数周，重新部署实时监控、强化沙箱和环境审查；大部分训练后来恢复，但截至8月底，部分高风险环境仍保持暂停。

所以，“实验室可能真的会停下来”并不完全是假命题。

可Anthropic的后续变化更加值得玩味。到了2026年新版RSP，Anthropic也承认，随着能力越来越强，一些更高等级的安全目标很难靠一家企业单独实现。

于是部分未来目标被改成：“nonbinding but publicly-declared”——公开宣布，但不具约束力。

这正好揭示了“刹车悖论”：模型还弱的时候，“该停就停”很好说。

真正跑到可能需要踩刹车的时候，公司已经背着算力、客户、估值、员工、投资人和竞争对手。

车速越快，刹车越贵。

当OpenAI也开始说“我们可能跑太快了”

所以重新看OpenAI这次的时间线，会发现它确实存在一点“时机学”上的小心机。

Astra发布之后，ARC Prize很快给出了两组非常扎眼的数字。

使用OpenAI Provider Adapter：99.9%。

使用统一Standard Harness：62.7%。

ARC Prize明确解释，两者并不矛盾。

前者允许Astra保留OpenAI设计的不透明reasoning state，并使用context compaction；后者则提供更加统一、provider-neutral的测试环境。两个分数回答的是两个不同的问题。

但普通读者看到的依然是：同一个GPT-6，一个99.9%，一个62.7%。

而且它暴露了一个越来越大的问题：所谓“模型能力”，正在从单纯的weights，变成：模型 + Harness + Memory + Tools + Context Management + 私有推理基础设施。

也就在外界开始追问“Astra到底有多强”的时候，9月6日，OpenAI端出了那两篇文章。

《Research acceleration: The view inside OpenAI》告诉世界：AI已经开始帮助OpenAI制造更强AI。

《An Alien Mind》紧接着告诉世界：正因为能力增长如此之快，我们应该开始认真讨论减速。

倒是没有证据表明这是OpenAI设计好的一场营销行动。但AI公司偏偏拥有一种其他科技行业很少有的传播优势：危险，本身就是能力证明。

一家手机公司说：“我们的手机危险到需要监管。”消费者只会立马跑路转向其他产品。

但一家AI公司说：“我们的模型越来越难监控。”“AI已经开始帮助研发AI。”“连我们自己都在考虑减速。”

听起来却还有另一层潜台词：我们的AI已经强到了这个程度。

“我们必须小心”和“我们已经领先得太远”，在AI行业里，有时候真的只隔着一层纸。

OpenAI说“跑太快”，外面的人怎么看？

Gary Marcus：进步是真的，但AGI这顶帽子戴得太快。

纽约大学心理学与神经科学荣休教授、AI公司Geometric Intelligence创始人 Gary Marcus，长期以来一直是大模型Scaling路线最著名的批评者之一。

但这次连他都承认Astra“pretty impressive”，并称多个结果显示它可能是一次“genuine advance”。

问题是，当黄仁勋进一步宣布“AGI has arrived”之后，Marcus马上反击：没有证据，也没有定义。

也就是说，他并不否认突破，而是否认从“突破”直接跳到“AGI”的叙事。

Ryan Greenblatt、Buck Shlegeris：我们甚至没那么关心AGI，先看看以后还能不能监控。

Redwood首席科学家Greenblatt和CEO Shlegeris关注的不是宣传口号，而是模型架构是否正在侵蚀人类最后几个可观察窗口。

他们真正警告的是：一旦不可见推理本身变成性能优势，保持透明可能反而变成竞争劣势。ARC Prize：99.9%是真的，62.7%也是真的。

作为独立Benchmark机构，ARC Prize的结果反而最能给这场狂欢降温。

Astra毫无疑问创造了state-of-the-art成绩，但Harness带来的巨大差异意味着：

以后再问“这个模型多少分”，可能已经是个不完整的问题。

而Anthropic提供的则不是一句评价，而是一段现实演示：

安全红线可以是真心的。实验室也可以真的暂停。

但越接近真正需要踩刹车的时候，安全承诺就越会和现实竞争撞在一起。

最可怕的答案：OpenAI可能没撒谎

我们不得不思考最坏的情况，毕竟——AI确实正在快速进步。

AI确实已经开始帮助研发下一代AI。

人类对模型内部过程的可见度，也确实面临新的压力。

而AI实验室同样越来越懂得，把这些风险写进自己的能力叙事。

三件事情完全可以同时成立。

这也是GPT-6之后最让人焦虑的地方：当最了解AI究竟进步多快的人，同时也是最需要向客户、投资者、员工和全世界证明自己“跑得最快”的那群人——

他们发出的警报，我们究竟应该相信多少？

Anthropic过去三年的经历已经提前展示了这个悖论：

实验室可能真的想踩刹车。

但如果车跑得足够快，刹车还在不在实验室自己手里、在不在人类手里，就很难说了。