以太坊联合创始人Vitalik Buterin表示，如果不加以控制，超级先进的人工智能有“巨大的机会”超越人类，成为地球上的下一个“顶点物种”。

但他说，这将归结为人类如何潜在地干预人工智能的发展。

新的怪物帖子：我目前对最近围绕技术乐观主义、人工智能风险和避免21世纪极端集中化的方法的辩论的看法。https://t.co/6lN2fLBUULpic.twitter.com/h5aIyFNCoh-vitalik.eth（@VitalikButerin）2023年11月27日

在11月27日的一篇博客文章中，被一些人视为加密货币领域的思想领袖的Buterin认为，人工智能与最近的其他发明“根本不同”，如社交媒体、避孕、飞机、枪支、轮子和印刷机，因为人工智能可以创造一种新型的“思维”，从而违背人类利益，并补充道：

“人工智能是一种智力迅速增长的新型思维，它很有可能超越人类的智力，成为地球上新的顶尖物种。”

Buterin认为，与气候变化、人为流行病或核战争不同，超级智能人工智能可能会终结人类，不会留下幸存者，尤其是如果它最终将人类视为对自身生存的威胁。

“人工智能出错可能使世界变得更糟的一种方式是（几乎）最糟糕的方式：它可能会导致人类灭绝。”

“即使是火星也可能不安全，”Buterin补充道。

Buterin引用了2022年8月4270多名机器学习研究人员的一项调查，他们估计人工智能杀死人类的可能性为5-10%。

然而，尽管Buterin强调这种性质的说法是“极端的”，但人类也有获胜的方法。

大脑接口与技术乐观主义

Buterin建议集成脑机接口（BCI），为人类提供对基于人工智能的强大计算和认知形式的更多控制。

脑机接口是大脑电活动与外部设备（如计算机或机器肢体）之间的通信通路。

Buterin说，这将把人和机器之间的双向通信回路从几秒钟减少到几毫秒，更重要的是，确保人类在世界各地保持某种程度的“有意义的能动性”。

相关：人工智能如何改变加密货币：炒作与现实

Buterin表示，这条路线将“更安全”，因为人类可以参与人工智能机器做出的每一个决定。

“我们（可以）减少将高层规划责任推卸给人工智能本身的动机，从而减少人工智能独自做一些完全不符合人类价值观的事情的机会。”

这位以太坊联合创始人还建议“积极的人类意图”将人工智能带向有利于人类的方向，因为利润最大化并不总是让人类走上最理想的道路。

人类是善良的。pic.twitter.com/AbOfd75IJ4–vitalik.eth（@VitalikButerin）2023年11月27日

Buterin总结道，“我们人类是宇宙中最亮的恒星”，因为我们已经开发了数千年的技术来扩展人类的潜力，希望未来还会有更多：

“20亿年后，如果地球或宇宙的任何部分仍然承载着地球生命的美丽，那么将是太空旅行和地球工程等人类技巧实现了这一点。”

杂志：加密货币中的真实人工智能用例，排名第一：人工智能的最佳资金是加密货币