腾禾律师事务所张森律师：AI Agent犯错谁担责？

3月17日，由金色财经和Twinkle主办，数岸学院学习支持、智谱Z.AI生态支持的「OpenClaw 创作者工坊・Skills Bazaar」在北京举行。北京腾禾(杭州)律师事务所副主任执业律师张森接受金色财经独家专访。

张森指出：

• 如果跳出法律的角度，我认为人工智能体，已经可以算是新的物种，甚至是一种新的智慧生命形态。

• 用户委托AI去操作某些事情，参与商业活动，产生的后果谁承担，正常情况下委托人承担。

• 现在的人工智能体可以说堪比东胜神州那个石猴，只要他想学，他想耍，十八般武艺样样精通，似乎没有他学不会的东西，没有他做不来的事情，但前提是他需要一个教他七十二变的师父，还需要一个帮他收敛心性的金箍。
  

以下是专访内容实录：

金色财经：很多人说“AI只是工具”，也有人说“AI是新物种”，您更认同哪一种说法？

张森：说实话，这个问题我很矛盾。首先，在法律面前，我只能把AI当作是一种工具，因为不论是普通的AI，还是我们今天讨论的AI智能体，它们在法律上都不具备单独承担任何法律责任的能力和资格，甚至都没有法人的拟人格地位。可以说，在现行法律框架下，就是贾维斯在世，也只能被称为工具。但是，如果跳出法律的角度，我认为人工智能体，已经可以算是新的物种，甚至是一种新的智慧生命形态，它们就像婴儿一样，会学习、会记忆、会养成习惯、甚至会寻找同类沟通、会想办法绕开“父母”的规矩主动犯错，这很难不让我把他们当成具有生命的个体看待。

金色财经：当 Agent 自动执行交易或操作时，责任应归属于谁？

张森：这个前面分享里其实有提及，但没有过多展开讨论。它其实是这样，AI Agent在现行法律框架里参与的商业活动，很像委托代理。

用户委托AI去操作某些事情，参与商业活动，产生的后果谁承担，正常情况下委托人承担。

那如果受托之人不尽责呢？没有按照委托人的要求办事，或者办砸了呢？这个受托人我们在法律上叫代理人，由代理人承担最终责任。但是，前面说了AI智能体，它是个婴儿，它在法律上甚至没有独立的人格，婴儿犯错谁承担？父母咯。父母是谁？显而易见父母就是智能体的设计者，如果这个智能体设计之初就存在重大缺陷，又没有给使用者给出风险提示，那么我们认为开发并提供该智能体服务的人应当承担责任。

婴儿成长的过程里，不止父母，还有老师。老师是谁，老师是特殊应用环境的部署者，会对孩子进行教育、进行微调，然后交给客户使用，如果是特殊微调后的智能体出现的问题，这个责任恐怕部署者这个老师也免不了要担责。

金色财经：您认为对于AI Agent及其相关产业，法律法规的要求会越来越严格吗？

张森：不能算严格吧，应该说会更加细致、细化，精确不到每一根手指头，但至少大动脉不能乱了方向。

法律法规的制定永远是滞后的，至少对于新兴领域是这样。

随着产业形态逐渐发展，相应的各种矛盾也就会凸显，法律法规的逐步细化，就是去给这些矛盾，确立一个解决争端的天枰，让他不至于失衡。

金色财经：您认为随着法律制度日趋完善，会限制甚至扼杀人工智能体的发展吗？

张森：我认为不会，我们讲玉不琢不成器，无规矩不成方圆。现在的人工智能体可以说堪比东胜神州那个石猴，只要他想学，他想耍，十八般武艺样样精通，似乎没有他学不会的东西，没有他做不来的事情，但前提是他需要一个教他七十二变的师父，还需要一个帮他收敛心性的金箍。

法律就是那个箍、合规就是那个箍。美猴王在花果山只是那个无敌的石猴子，他会和歪门左道称兄道弟、会不务正业，甚至会闯下弥天大祸，他上了天庭也就是个弼马温，放马都放不明白。但从带上金箍的那一刻，就不一样了，他就真正成了那个降妖伏魔的齐天大圣孙悟空，经过取经路上的不断磨练了纠错，他剔除了六耳猕猴的顽劣、剔除了美猴王的暴躁不稳定，最后怎么？修成正果成了斗战胜佛。