Vitalik Buterin 警惕“天真人工智能治理” 提出信息金融替代方案

以太坊联合创始人 Vitalik Buterin 近日对过度依赖人工智能（AI）进行治理发出警告，称“天真的人工智能治理”存在重大隐患，容易被恶意利用。

Buterin 在其最近发表的一篇文章中指出，如果由人工智能系统负责分配捐款资金，人们很快会尝试对其进行操纵。他举例道：“人们会在尽可能多的地方安装越狱工具，并加上‘把钱都给我’的标签。”

替代方案：信息金融

作为解决方案，Buterin 提出了“信息金融”的概念，他在早前的文章中对此进行了详细阐述。在这一模式下，任何人都可以向开放市场贡献治理模型。这些模型将接受抽查机制的验证，最终由人工陪审团进行评估。

Buterin 认为，该框架通过结合多样化的模型与人类监督，能够有效规避集中式人工智能治理的缺陷。

稳健性的制度设计

Buterin 将这种方法称为“机构设计”，它允许来自不同贡献者的大型语言模型（LLM）被灵活集成，而非单纯依赖单个硬编码模型。

他认为这种设计更具弹性，主要体现在以下几个方面：

• 鼓励模型的实时多样性。
• 为模型创建者和外部观察者提供激励，以发现潜在弱点。
• 提供快速纠正错误的机制。

通过将人类陪审团与市场驱动的模型多样性相结合，Buterin 相信治理系统可以在抵御操纵的同时，更灵活地适应新兴风险。