以太坊共同创办人 Vitalik Buterin 今日针对 AI 的发展发表评论,他认为错误的 AI 发展可能带来独立且能自我复制的智能生命体,而正确方向是成为人类智慧的「机械装甲」,以实现繁荣的超智慧人类文明。
(前情提要:V神对AI发展感到恐惧:人类应打造便利工具,而非创造智慧生命)
(背景补充:Vitalik 开骂币圈现况:加密货币已悖离密码学、资安领域,这很失败)
本文目录
本周,辉达执行长黄仁勳在 2025 年 CES 的主题演讲中提到:「AI agent 有潜力成为一个数兆美元的产业。」助长了加密社群对 AI Agents 的热情,据 Kaito 数据,AI 在本周的关注度首次达到接近 70% 的水平。
V 神:正确的 AI 发展为人类智慧配备「机械装甲」
而在今日,以太坊共同创办人 Vitalik Buterin 也对 AI 的发展发表评论表示:
在实现後者的方法上,Vitalik 进一步解释:
Vitalik 还附上了自己去年 11 月撰写的文章截图,阐述了一种通过「资讯金融」来提炼人类判断的方法,目的是让复杂、昂贵且高效的人类判断机制能以低成本、快速且高效的方式运作。他引用 Robin Hanson 的想法,表示可以借助「预测市场」。
从他分享这段内容来看,他可能想探索 「如何让人类价值观和智慧高效融入到 AI 系统的决策中」,并且强调经济激励在这其中的重要性。
应打造 AI 代理人吗?
另一方面,在回答网友关於「设计选择应该是代理型 AI 还是以提升人类能力为核心?」的提问时,Vitalik 表示:
Vitalik 直言,後者非常棒。这与他去年 12 月发表的一篇关於理想钱包的文章不谋而合。在那篇文章中,他探讨了 AI 的进步可能带来交互方式的深刻革命,并指出未来有可能从传统的点击操作和输入模式,转变为「说出你的需求,机器人帮你完成」的全新模式。他提到:
Vitalik 补充道,理想情况下,这些 AI 应由不同团队开发,形成一个多样化的开放生态系统,满足不同的偏好与需求。
主张开发能增强人类智慧的工具
去年 12 月底,Vitalik 在讨论 AGI(人工通用智慧)与 ASI(人工超级智慧)时,提出了他对 AGI 的定义:AGI 是一种足够强大的人工智慧,假如某天所有人类突然消失,而这个 AI 被上传到机器人的躯壳中,它能够独立维持文明的运作。
他也坦言,这是一个极其难以量化的定义,但这正是许多人心中「我们习惯的 AI」与「AGI」之间的潜在直觉差异。从一个不断依赖人类输入的工具,进化成为一种自给自足的生命形式,便是这种差异的核心所在。
至於 ASI,Vitalik 将其视为一个更高层次的概念:当人类的参与(human-in-the-loop)不再为系统带来任何价值时,便达到了 ASI 的标准。他举例指出,国际象棋中的 AI 也只是最近十年间才达到这一水准。
他坦率地表示,ASI 令他感到恐惧,甚至他自己定义的 AGI 也让他不安,因为这些技术可能带来人类失去控制的重大风险。
因此,Vitalik 更倾向於专注於开发能增强人类智慧的工具,而不是构建某种形式的超级智慧生命。他的这一立场,与他今天提到的观点一致:正确的 AI 发展应该为人类智慧装上「机械装甲」,而非创造新的独立智慧生命体。
AGI:指具备类似人类智能的人工智慧,能够在多种不同领域中执行任务,而不仅限於特定的应用。
ASI :指超越人类所有智能层次的人工智慧,不仅在特定领域具有卓越的能力,还能全面性在每个方面超越人类。
📍相关报导📍
Vitalik:AI时代Deepfake泛滥,如何保证资讯安全、验证身份?
Vitalik 理想的加密钱包:跨L2交易体验、帐户隐私安全、成为数据钱包..
Vitalik 新文:去中心化加速主义(d/acc) 的重要性、未来发展机遇与挑战
Tags: AgentsAIVitalik Buterin