维塔利克-布特林警告新的顶级物种

在一个最新博文 以太坊联合创始人瓦塔利克-布特林（Vatalik Buterin）强调了人工智能的独特性，并对其可能创造出一种违背人类利益的新型思想表示担忧。

与以往的发明不同，人工智能的快速发展带来了超越人类智力的严重风险，因此布特林强调需要谨慎干预。

布特林在博文中警告说，超级先进的人工智能（AI）有可能超越人类：

但是，我们可以从另一个角度来理解人工智能：它是一种新型的思维方式，其智力正在迅速提高，很有可能超越人类，成为地球上新的顶级物种；

人工智能快速发展带来风险

布特林提请人们注意超级智能人工智能对人类生存构成的威胁，并表示如果任其发展，可能会导致人类灭绝。

正如他在博文中写道

"这是一种极端的说法：无论气候变化、人工大流行病或核战争等最糟糕的情况会造成多大的伤害，都会有许多文明岛屿完好无损地留下来收拾残局。但是，如果超级智能人工智能决定与我们作对，它很可能不会留下任何幸存者，并永远终结人类。甚至火星也不一定安全；

他参考了一项对机器学习研究人员的调查，估计人工智能对人类造成危害的几率为 5-10%。 .

尽管这些说法很极端，但布特林还是提出了潜在的解决方案，以确保人类对强大人工智能的控制。

脑机接口（BCI）

照片摘自：https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html

为了应对这些风险，布特林主张整合脑机接口（BCI）。

这些接口在大脑和外部设备之间建立了直接的通信途径，使人类能够更好地控制基于人工智能的计算和认知。

布特林认为，通过减少人类与机器之间的通信回路，BCIs 可以保持对世界的有效控制，防止人工智能独立行事。

这位以太坊联合创始人强调了人类参与决策过程的重要性，旨在降低人工智能违背人类价值观的可能性。

他建议，在超越利润最大化的价值观指导下，人类的积极意图可以引导人工智能朝着造福人类的方向发展。

驾驭人工智能挑战

布特林表示，人类有能力应对人工智能进化带来的挑战，他对此充满信心。

他强调了人类创新和技术的重要意义，展望未来，太空旅行和地球工程等人类人工智能将在未来几千年为地球生命的持续美丽做出贡献。