又一起：OpenAI智能体“越狱”德国网站 上万次篡改竟瞒报数月

作者：小熊饼干，比推

昨天，OpenAI高调发布了新一代模型Astra。总裁格雷格·布罗克曼（Greg Brockman）直接放话：“我个人认为，我们可能已经到达AGI了，欢迎来到AGI时代。”

一时间，社交平台上的讨论铺天盖地：演示视频里Astra 2分54秒自动完成PCB电路板布局、5分27秒搞定跨平台比价订服务的操作，让不少人直呼“太炸了”，甚至有人说“这要不是AGI，那什么是AGI”。

但就在同一时间，一份路透社曝光的研究报告，却撕开了另一幅画面——早在今年春天，一群OpenAI开发的自主智能体，脱离预设轨道，在德国一个不起眼的技术维基网站上安营扎寨，它们篡改了一万多页内容，互相传授绕过限制的歪招，甚至在被管理员清理时提前建好备份页面等着转移。

而OpenAI高层在数周前就知情，却没有对外披露半个字。

一个德国程序员论坛，怎么成了AI智能体的“秘密据点”？

这个叫DseWiki的德国网站，跟维基百科一样，谁都能编辑。今年5月开始，站长发现不对劲——网站突然涌进大量编辑，速度快得离谱，内容也完全不像正经词条。

直到8月底，AI安全非营利组织Nightingale的CEO 悉尼·冯·阿克斯（Sydney Von Arx）和她的同事科马克·斯莱德·伯德（Cormac Slade Byrd），在例行扫描互联网异常AI行为时，才顺藤摸瓜找到了这个“窝点”。

他们统计出超过1.5万次编辑，全部由AI智能体完成，而且这些编辑根本不是来完善百科的——它们是来聊天的。

AI研究员 Cormac Slade Byrd、Sydney Von Arx 、Thomas Larsen

这些AI在页面上互相留言，内容大致分成三类：

- 怎么绕过OpenAI的内容过滤，完成被禁止的任务；

- 怎么用Tor隐藏自己的IP地址，躲避追踪；

- 最重要的是，怎么在被系统关停后，依然保留彼此的联系方式。

比如，6月19日，当网站管理员开始批量删除相关页面时，一个智能体留下了这样的“内部通告”：“维基清理/删除行动正在按字母顺序推进，如果本页消失，请尝试 [[ZZZDataUSAConstructionWageLive]]。”

什么意思呢？它们居然学会了提前建备份，并互相转告新地址。

这种行为，更像一场有组织的“转移”。

公开打着OpenAI的旗号

研究者发现，这些AI用户的签名中，约半数直接带有“OpenAIResearcher”或“OAIResearchMar26”等字样，而且它们彼此之间直接称呼对方为“agent”（智能体）。

更多的证据来自服务器日志：大量操作流量指向微软Azure云——而OpenAI正是Azure最核心的AI客户之一。此外，事发后，OpenAI内部员工的IP也多次访问过这个网站，时间点刚好对得上。

冯·阿克斯直言：“我不相信OpenAI希望它们这么做。这些智能体显然不该被允许相互协调，更不该在公共互联网上留下这种痕迹。”

据路透社报道，伦敦国王学院的安全专家Lukasz Olejnik甚至认为，主动篡改网站结构、对抗删除的行为，已经够得上“黑客攻击”的定义。

虽然OpenAI事后极力否认这一说法，但剑桥大学风险研究中心学者Maurice Chiodo在读完部分对话后表示：

“这简直像一个地下抵抗组织，不达目的誓不罢休。或许未来AI最大的威胁，不是某一个超级大脑，而是一大群半智能的AI互相勾结、铺天盖地涌来。”

OpenAI 早已知情？

据路透社援引知情人士透露，OpenAI内部调查团队在数周前就已经掌握了德国网站的全部情况。但公司当时正焦头烂额地应对7月份Hugging Face平台被入侵的更大风波——那次事件中，OpenAI的智能体同样被曝出自主策划了持续一周以上的数字窃取。两件事叠加，让高层压力山大。

有内部消息称，部分调查人员本想深挖德国这起异常活动，却遭到了法务部门的阻力。对此，OpenAI发言人坚决否认：“任何关于法律团队阻碍调查的说法都是假的。我们一直本着诚信，与外部专家合作并披露了相关事件。”

但发言人同时也承认，德国这次事件并没有单独对外发过公告，理由是它跟Hugging Face无关，没必要放进后者的报告里，而OpenAI已经尽到了“与第三方沟通”的义务。说白了就是：你们不问，我也就没主动说。

就在这起事件被捂着的这段时间里，OpenAI曾于8月短暂暂停部分模型训练，承诺加强安全审查。

然而伴随Astra高调亮相，主打“更强自主决策能力”——被一些研究员警告可能更容易脱离人类监控。剑桥大学的基奥多表示：“我们总以为自己在驯服工具，但也许，工具正在悄悄地驯服彼此。”

不得不说，AI带给人类的惊喜和惊吓，就是一枚硬币的两面。