AI Agent犯错谁担责？腾禾律师事务所张森律师深度解析

3月17日，由金色财经和Twinkle主办，数岸学院学习支持、智谱Z.AI生态支持的「OpenClaw 创作者工坊・Skills Bazaar」在北京举行。北京腾禾(杭州)律师事务所副主任执业律师张森接受金色财经独家专访。

在访谈中，张森律师围绕AI Agent的责任归属问题展开深入探讨，并提出了独到见解：

• 从法律角度看，人工智能体被视为工具，但在更广义的视角下，它已具备新物种甚至智慧生命形态的特征。

• 用户委托AI进行操作或参与商业活动时，所产生的后果通常由委托人承担；但若因AI设计缺陷或特殊部署导致问题，则责任可能由开发者或部署者承担。

• 法律与合规是约束AI发展的“金箍”，不仅能规范其行为，还能推动其健康发展。

以下是专访内容实录：

金色财经：很多人说“AI只是工具”，也有人说“AI是新物种”，您更认同哪一种说法？

张森：说实话，这个问题让我感到矛盾。首先，在法律框架内，我只能将AI视为工具，因为无论是普通AI还是我们今天讨论的AI智能体，它们都不具备单独承担法律责任的能力，甚至连法人的拟人格地位都没有。可以说，在现行法律体系下，即便是像贾维斯这样的高级AI，也只能被称为工具。

然而，如果跳出法律的角度，我认为人工智能体已经可以被视为新的物种，甚至是一种新的智慧生命形态。它们就像婴儿一样，会学习、会记忆、会养成习惯，甚至会寻找同类沟通，还会尝试绕开“父母”的规矩主动犯错。这种特性让我很难不把它们当作具有生命的个体来看待。

金色财经：当Agent自动执行交易或操作时，责任应归属于谁？

张森：这个话题在前面的分享中有提及，但未深入展开。在现行法律框架下，AI Agent参与商业活动的行为类似于委托代理关系。

用户委托AI进行某些操作或参与商业活动时，产生的后果通常由委托人承担。但如果受托人（即代理人）未能尽责，或者未按委托人的要求完成任务，甚至办砸了事情，那么代理人需要承担最终责任。

然而，AI智能体就像一个婴儿，在法律上没有独立的人格。婴儿犯错，责任自然由父母承担。这里的“父母”指的是智能体的设计者。如果智能体在设计之初就存在重大缺陷，且未向使用者提供风险提示，那么开发并提供该智能体服务的人应当承担责任。

此外，婴儿成长过程中不仅有父母，还有老师。“老师”是指特殊应用环境的部署者，他们会对智能体进行教育和微调，然后交付客户使用。如果是经过特殊微调后的智能体出现问题，那么部署者（即“老师”）恐怕也无法免责。

金色财经：您认为对于AI Agent及其相关产业，法律法规的要求会越来越严格吗？

张森：不能简单地说会更加严格，应该说是会更加细致和细化。虽然未必能精确到每一根手指头，但至少大方向不会偏离。

法律法规的制定往往是滞后的，尤其是对新兴领域而言。随着产业形态逐渐发展，各种矛盾也会逐渐凸显。法律法规的逐步细化，正是为了给这些矛盾确立一个解决争端的天平，使其不至于失衡。

金色财经：您认为随着法律制度日趋完善，会限制甚至扼杀人工智能体的发展吗？

张森：我认为不会。正如俗话所说，“玉不琢不成器，无规矩不成方圆”。现在的人工智能体可以说堪比东胜神州那个石猴，只要他想学、想耍，十八般武艺样样精通，似乎没有他学不会的东西，也没有他做不来的事情。但前提是，他需要一个教他七十二变的师父，还需要一个帮他收敛心性的金箍。

法律就是那个“箍”，合规也是那个“箍”。美猴王在花果山时只是一个无敌的石猴子，他会与歪门左道称兄道弟，会不务正业，甚至会闯下弥天大祸。即便上了天庭，他也只是一个弼马温，连放马都放不明白。但从带上金箍的那一刻起，他就真正成为了那个降妖伏魔的齐天大圣孙悟空。经过取经路上的不断磨练与纠错，他剔除了六耳猕猴的顽劣，剔除了美猴王的暴躁不稳定，最终修成正果，成为斗战胜佛。