Vitalik Buterin 警告加密项目不要采用人工智能治理

以太坊联合创始人 Vitalik Buterin 对加密货币项目治理流程中使用人工智能表示担忧，并强调其可能被恶意行为者利用。Buterin 在 X 平台最近的一篇博文中警告称，使用人工智能分配资金可能会导致漏洞，因为个人可能会试图通过越狱和指令来操纵系统，从而转移资金。他的评论是对人工智能数据平台 EdisonWatch 创始人 Eito Miyamura 的一段视频的回应，该视频演示了 OpenAI ChatGPT 新增的一项功能如何被利用来泄露私人信息。 人工智能与加密货币的融合已获得广泛关注，用户正在开发复杂的交易机器人和代理来管理投资组合。这一趋势引发了关于人工智能是否可以协助治理团体监督加密货币协议的讨论。然而，Buterin 认为，最近的 ChatGPT 漏洞凸显了“幼稚的人工智能治理”的风险，并提出了一种名为“信息金融”的替代方法。他建议创建一个开放的市场，贡献者可以提交模型，并接受抽查机制的审核，并由人工陪审团进行评估。他认为，这种方法能够提供模型多样性，并激励模型提交者和外部投机者及时监控和纠正问题。 Buterin 于 2024 年 11 月详细阐述了信息金融的概念，倡导预测市场作为收集未来事件洞见的一种手段。他强调了这种方法的稳健性，它允许拥有大型语言模型 (LLM) 的外部贡献者参与，而不是依赖于单一的硬编码 LLM。这种设计促进了实时模型多样性，并激励人们警惕和纠正潜在问题。 ChatGPT 的最新更新支持模型上下文协议工具引发了安全担忧。Miyamura 演示了如何利用此更新仅使用受害者的电子邮件地址就泄露私人电子邮件数据，并称其为“严重的安全风险”。他解释说，攻击者可以向受害者的电子邮箱发送带有越狱提示的日历邀请，并且在受害者未接受邀请的情况下，ChatGPT 可以被操纵。当受害者要求 ChatGPT 查看他们的日历时，人工智能会读取提示并被劫持执行攻击者的命令，可能搜索和转发电子邮件。 Miyamura 指出，此更新需要人工批准，但他警告称，这可能导致决策疲劳，即人们可能会信任人工智能并在不了解其含义的情况下批准操作。他警告说，尽管人工智能很智能，但它可能会以简单的方式被欺骗和网络钓鱼