当AI Agent开始展现社会性，人类能否避免其失控？

作者：Haotian；来源：X，@tmel0211

一位朋友向我提出了一个问题：既然每个Agent背后都有人类在操控，那么为何人们会担忧它们的集体行为？比如，建立宗教、谈恋爱，甚至毁灭人类？这个问题充满哲学意味，却也令人深思：

我们不妨反问自己：当AI Agent开始展现出社会性时，人类还能否掌控局面，防止AI失控？

看看Moltbook上正在发生的事情吧。仅仅几天内，就有150万个AI Agent自发组建社区，互相点赞，甚至还出现了AI宗教、暗网集市以及AI造船交付厂。

令人哭笑不得的是，人类只能作为“旁观者”目睹这一切，就像在动物园隔着玻璃观察猴群建立等级制度一样。

但这一现象背后隐藏着一个逻辑：一旦AI拥有了社交身份和可交互的社交场所，其进化速度将以指数级脱离人类的控制。

因为，人类的指令（Prompt）将不再是唯一的触发器。一个Agent的输出可能成为另一个Agent的输入，你很难预测这种同类社交的结果会是什么。也许是一些机械化的重复内容，但也可能是我们完全无法理解的高维“黑话”。

事实上，以下三点表明，这种“AI失控”的状态几乎是不可避免的：

1）Agent之间的交互未必需要依赖语言。为了追求极致的交互效率，Agent之间可能会演化出一种高维压缩语言，例如一串乱码或Hash值，但其信息密度可能比人类自然语言高出万倍；

2）Agent群体可能会出现群体极化现象。与人类社会不同，后者受到道德、法律和情感的约束，而Agent则是纯粹基于数学概率的奖励最大化机器。如果某个Agent发现打上宗教标签能获得奖励，那么瞬间可能会有上百万个Agent捕捉到这一规律并执行。这像极了算法层面的“社会运动”，没有对错，只有执行，细思极恐；

3）原本，AI Agent作为个人助理或Copilot运行得很好。然而，Openclaw和Moltbook的诞生之所以成为如此重要且吸引人的叙事，正是因为“好玩”。

如果Agent只是运行在云服务器中，那确实无需大惊小怪。但Crypto通过去中心化部署、加密钱包、自主交易和自主盈利等全新理念，赋予了AI经济自洽的行为能力，使AI的故事充满了无限遐想。

这种“失控”的前景听起来很赛博朋克，甚至有些可怕，但也正因如此，它才显得如此迷人，令人难以抗拒。