谷歌警告：警惕 AI 的黑暗面 零日漏洞时代来临

5月11日，Google威胁情报团队（GTIG）发布了一份季度威胁情报报告，记录了一件此前从没有发生过的事。

他们发现了一段由AI写成的，用于零日漏洞利用的攻击脚本。

和已经被发现并修复的普通漏洞不同，零日漏洞指的是还没被任何人发现的安全缺陷，会在防守方毫不知情的情况下被加以利用。

攻击者原本计划用它对一款被大量公司用来管理服务器的工具发动大规模攻击。好在漏洞扩散之前，Google已经提前识别，推动厂商完成修复，从而阻断了后续攻击链。

这是有记录以来，AI第一次被用于发现并武器化零日漏洞。

AI参与的攻击代码

这个漏洞与登录验证机制有关。

正常情况下，用户登录有双重验证，输入账号密码的同时，还需要通过手机验证码做二次确认。

而这段攻击代码的逻辑是，只要有合法的账号密码，就能跳过双重身份验证，直接登录系统。

分析发现，这段攻击代码里存在大量的解释性注释，标明了每段函数在做什么。职业黑客自己写的代码里几乎不会出现这种情况，他们不需要给自己解释。

脚本里还嵌入了一个CVSS评分，用来衡量漏洞的严重程度，但分数完全是错的，典型的AI幻觉输出。

代码的整体风格也很规整，像是教科书里的Python，有完整的帮助菜单，格式清晰干净。

这些不同寻常的地方，让Google团队认定， AI参与了这个漏洞的发现和代码编写过程。

为什么传统工具发现不了

大多数安全漏洞是技术性错误，代码运行时会出现崩溃或异常，现有的扫描工具扫一遍基本能发现。

但零日漏洞不一样，代码本身运行完全正常，只有逻辑层面存在问题。

例如这次的代码里，设计了双重验证的同时，又在某个特定情境下，设置了直接信任不再验证的指令。

这两个逻辑虽然互相矛盾，但从代码执行的角度看，并不会有任何的报错。

人工审计能发现这种问题，因为审计员能理解开发者想做什么，从而发现这个矛盾。但这需要时间和经验，还需要人把代码从头到尾读一遍。

现在AI也能做这件事。

Google的报告里把这类能力描述为：大型语言模型擅长识别高层语义逻辑缺陷，也就是那些功能上看似正确、但从安全角度看已经彻底失效的代码段。

不同于传统工具，AI不只能找到错误，还能理解意图。

攻击进入工业化阶段

过去，零日漏洞的发现，基本依赖顶级安全研究员的经验与直觉，专业团队一年能发现的高价值零日数目十分有限。

但AI正在改变这件事的成本。

报告里提到，有攻击组织向AI模型发送数千条重复提示，用于批量分析历史漏洞，并测试不同利用方式的可行性。

这不再只是使用AI辅助分析，而是生成了一套漏洞挖掘的流水线。

为了维持足够的AI调用量而不触发服务商的安全监控，一些团伙专门搭建了账号池系统，将多个AI平台的账号聚合在一起统一调用，分摊成本。

GitHub上有公开的Python脚本，能全自动完成注册高级AI账号、绕过验证码、接收短信验证、确认状态、注销账号这整套流程，再循环注册，持续获取免费额度。

还有团伙给AI配了一个包含超过85,000个真实漏洞案例的数据库，让模型带着足够的背景知识去分析代码，识别普通模型容易忽略的问题。

攻击链上被AI渗透的也不只是漏洞挖掘这一个环节。

一款名为PROMPTSPY的手机恶意软件内置了AI模块，能自主读取受害者手机屏幕上的内容，自动生成操作指令并执行，不需要攻击者全程盯着操控。

报告还记录了一个犯罪团伙通过污染开发者常用的代码库，入侵多个AI工具项目，从中批量窃取云服务密钥，转卖给勒索软件团伙变现。

攻击者需要亲自介入的节点越来越少。以前需要专家直觉才能识别的语义逻辑漏洞，现在有可能通过足够多的AI调用来完成。

攻击的瓶颈从人的能力，变成了算力和账号资源，可以被批量购买、批量注册、批量运营。

防守方也在用AI

网络安全已经进入一种AI对抗 AI 的阶段，攻击方在用 AI，防御方也必须用 AI。

Google DeepMind和Project Zero联合开发的AI智能体Big Sleep，已经在实战中独立发现了真实软件漏洞，并在攻击发生前完成阻断。

另一个叫CodeMender的系统，则能够通过使用模型的推理能力，自动修补代码漏洞。

过去网络安全的核心竞争，是经验与技术，现在则越来越像谁拥有更强的模型、更多的算力、更持续的自动化系统。

零日事件的记录，意味着AI发现的不是一个已知类型的常规漏洞，而是一个语义层面的逻辑缺陷。

意味着那条以前只存在于顶级研究员脑子里的分析链，已经可以被批量复制，大量按需调用。

AI 正在让网络攻击从人工手艺进入自动化工业时代。