Vitalik Buterin警告：人工智能应增强人类能力而非剥夺控制权

以太坊联合创始人Vitalik Buterin敦促谨慎开发人工智能（AI），称它应该帮助人类变得更强大，而不是创建可能剥夺人们控制权的系统。

Buterin在一系列帖子中探讨了人工智能未来的发展方向。他明确表示，人工智能应当被设计为一种赋能工具，而不是潜在地削弱人类权力的技术。

人工智能应该帮助人类，而不是接管

Buterin警告说：“设计不佳的人工智能系统可能会产生或多或少不可控、自我复制的实体。”他认为，错误的方向可能导致新形式的独立自我复制的智能生命出现，这与正确的路径——即创造能够辅助人类思维机制的人工智能形成对比。如果不加以正确引导，我们有可能永久性地失去对自身命运的掌控；反之，则能迎来一个繁荣且高度发达的人类文明。

Buterin提倡将AI视为增强人类心智能力和创造力的工具，类似于科幻作品中的“机甲套装”，旨在提升穿戴者的物理力量。这种观点强调了有监督下运行的AI与完全自主行动、可能最终脱离创造者掌控的AI之间的根本差异。

他还提出使用“提炼的人类判断”作为集体改进决策的方式之一，目的是构建既能模仿优质人类决策过程又能超越个体效率限制的系统。通过这种方式，人们可以从AI的能力中获益，同时保持对其应用范围和影响的控制。

不受控制的人工智能系统的风险

Buterin举例说明了一些新兴AI技术如何体现真正授权给用户的特性，例如某些实时视频生成软件，相比于用户参与度较低的传统文本到图像转换模型来说，前者更能体现人机之间更紧密互动的趋势。

关于AI代理，即那些无需直接人为干预即可完成特定任务的程序，Buterin区分了两类：一类专注于长远复杂规划，另一类则如聊天机器人般简单易用，后者甚至有望取代图形用户界面成为新的交互标准。他特别指出后者具有巨大的潜力。

总之，Buterin呼吁采取负责任的态度对待AI的发展，确保其发展是为了增强而非替代人类的能力。“如果处理得当，”他说，“人工智能可以促进超级智能文明的发展。”