天料科技技术总监李泽：AI Agent普及将带动两大行业兴起

3月17日，由金色财经和Twinkle主办，数岸学院学习支持、智谱Z.AI生态支持的「OpenClaw 创作者工坊・Skills Bazaar」在北京举行。天料科技北京有限公司技术总监、清华大学生物信息学硕士李泽接受金色财经独家专访。

李泽指出：

• 如果未来AI Agent普及的话，我认为有两个新兴行业是必不可少的：一个是属于AI Agent的驾校，教会使用者如何更好的使用AI Agent；一个是AI Agent 4S店，帮助修理出问题的AI Agent。

• 目前AI还是存在一些风险，有时会产生幻觉。我们可以积累类似银行业的成熟的规范标准，并且按照此类标准进行审批、根据数据敏感度进行相应授权。

• AI Agent需要具有安全性、可治理、可信任、可审计等属性。

以下是专访内容实录：

金色财经：很多人说“AI只是工具”，也有人说“AI是新物种”，您更认同哪一种说法？

李泽：AI是工具还是新物种，其实并不需要做绝对区分。

首先，我们希望AI完成一些重复性、低效率的工作。其次，AI具有感知、思考、长期记忆、执行等能力，从这些能力上而言，我们不能将它看做生物意义上的新物种，而应该是社会分工上的新技术角色。如同盲人摸象一样，我们也正在摸索AI到底应该扮演什么角色。

金色财经：OpenClaw 有哪些亮点？有哪些安全风险？后续应该如何优化？

李泽：OpenClaw 的亮点值得大家深入思考。OpenClaw 大模型的一些能力已经超越了人类：AI Agent有了执行能力，可以写文件、看邮件等，这是令人着迷的能力。OpenClaw接入通讯软件后，就可以让普通用户感受AI Agent的这种能力，这是一个非常大的产品亮点。

OpenClaw 确实存在一些风险。我用一个比喻来说明：OpenClaw 就像一个武林高手，在深山老林里苦修数十年，但是它不知道社会法则。如果只是将这位武林高手关在家里，可能不会有太大的问题，一旦让它接触到了复杂的世界，就会有被带偏的可能。

接下来谈谈风险防范的问题。我们知道风险源自哪里，就可以有一些防范风险的手段和标准。

首先，要在OpenClaw中强调哪些事可以做，哪些事不能做，要写进标准文档中。其次，要设计一些权限，建立一套机制，提前进行安全教育。事中留痕、事后巡查。

金色财经：在企业自建 Agent 系统时，安全风险主要来自哪些方面？

李泽：我们最近看到了很多新闻：用了OpenClaw之后，出了多少安全事故、有多少风险。但是回顾汽车发展史，我们会发现，在人类走不远的时候，用马车的人特别希望汽车出现，但是汽车出现后，首先报道的是车祸伤人事件，而非汽车的便利性。

现在进入了AI Agent时代，人和组织的智力增强时，一定会遇到安全风险问题，并且从理论上讲，这个问题永远无法根绝。

对于企业而言，一定要有 OpenClaw 监护人，即懂得教育、培训、配置OpenClaw，并能够与它共同成长，防范它的非预期行为。

如果未来AI Agent普及的话，我认为有两个新兴行业是必不可少的：一个是属于AI Agent的驾校，教会使用者如何更好的使用AI Agent；一个是AI Agent 4S店，帮助修理出问题的AI Agent。

OpenClaw更像组装车，会有很多爱好者加入其中。将来也一定会大厂们配置好的安全性良好的OpenClaw量产出来。因此，随着时间的推移，我们现在遇见的问题都可以被逐步解决。

金色财经：企业如何平衡自动化效率与数据安全？未来是否需要 AI Agent 专门的安全标准？

李泽：平衡自动化效率与数据安全的核心在于按照风险分层自动化。

目前AI还是存在一些风险，有时会产生幻觉。我们可以积累类似银行业的成熟的规范标准，并且按照此类标准进行审批、根据数据敏感度进行相应授权。

我们已经在AI Agent安全标准方面有了一些基建：例如计算机和软件的安全标准等。当然，AI Agent的安全标准会有一些不同。

首先，AI Agent会读取一些不可信的文本；其次，AI Agent会调用一些新的能力；最后，AI Agent会执行一些任务。这三点都需要我们逐一面对并制定相应安全标准。

金色财经：您对AI Agent 时代的终极愿景是什么？它会如何改变人类的生产与生活方式？

李泽：这个问题很宏大，AI Agent需要具有安全性、可治理、可信任、可审计等属性。

人类曾用机械代替了一部分人类劳作；软件兴起后，一些信息处理工作也不再需要人工完成；AI Agent兴起之后，一定有一些新的内容交给AI Agent来做。我们要考量哪些内容是AI Agent可以做的，哪些是必须人类来做的。

首先，人类要设定目标：人类要追求什么；其次，人类要设立边界：AI Agent能做哪些事；最后，人类做最终判断：AI Agent执行后，后果是人类来承担。

我们对AI Agent终极愿景的思考将永不止步。