全球精选马斯克AI安全最重要的是坚持真理 [复制链接]

8月2日，硅谷科技圈第一播客LexFridmanPodcast最新一期节目上线，马斯克带领Neuralink团队核心成员以及全球首位Neuralink脑机接口植入者Noland做客博客，主持人LexFridman与他们每个人都进行了单独交谈，就Neuralink与人类未来展开对话。这是马斯克第5次参加该博客专访，也是LexFridman做过的最长一期博客，完整的播客超过8.5小时，对话内容覆盖面广、技术性强。

此次访谈信息量巨大，马斯克在博客中分享，Neuralink已经完成第二例人体植入，目前为止一切顺利。关于Neuralink的未来发展，他表示，短期内，Neuralink的首要任务是解决脊髓、颈部或大脑中的基本神经元损伤问题；长期愿景是通过增加通信带宽来改善AI与人类的共生关系。此外，马斯克强调，关于AI安全问题，最重要的是坚持真理，无论这个真理是否政治正确。

为了让大家更好地了解马斯克的观点，本文将LexFridman与马斯克对话的精彩内容进行重新编译。

精

彩

观

点

Neuralink当前的首要任务是解决脊髓、颈部或大脑中的基本神经元损伤问题。

什么会阻碍人类集体意志与AI相结合？人类的低数据速率，尤其是我们缓慢的输出速率，必然会因为通信速度太慢而削弱人类与计算机之间的联系。Neuralink的长期愿景是通过增加通信带宽来改善AI与人类的共生关系。

人类到目前为止积累的数据非常之少，去重、过滤低质量信息后这个数字并不大，很快就会被AI用完。但现实是可扩展的，现实的规模与数据的规模成正比。因此，数百万辆提供实时视频数据的特斯拉汽车和数以亿计的Optimus机器人，最终可能成为最大的数据来源，因为它们可以从现实世界中学习大量知识。

关于AI安全的问题，最重要的是坚持真理，不会为了政治正确或者任何原因而被迫撒谎。

#01

Neuralink的应用领域

LexFridman：首先，让我们祝贺Neuralink成功植入人体，这是Neuralink迈出的历史性一步。未来还会有更多植入吧？

ElonMusk：谢谢。是的，我们已经完成第二例人体植入了，到目前为止一切顺利，大约有个电极在提供信号。

LexFridman：你认为人类参与者的数量会以多快的速度增加？

ElonMusk：这在某种程度上取决于监管部门的批准速度。我们希望在今年年底之前完成一共10人的植入，所以还有8人待植入。

LexFridman：当Neuralink未来有个或0个链接通道时，大多数使用场景将是AI之间的沟通吗？

ElonMusk：我们的第二个产品叫做Blindsight，它通过直接触发视觉皮层中的神经元，使完全失明、失去双眼或视神经受损的人能够重见光明。

如果脊髓或颈部神经元受损，像我们前两位患者的情况一样，那么显然Neuralink当前的首要任务是解决脊髓、颈部或大脑中的基本神经元损伤问题。当然，我认为也有可能解决精神分裂问题，也能对记忆力提供帮助。我想，未来可能会有一些事情需要担心，但最初几年实际上只是解决基本的神经损伤。对于身体某部分瘫痪的人来说，Neuralink意义非凡。

LexFridman：所以，Neuralink有医疗和非医疗两种用途，你谈到的一切未来也可以应用在非残疾人身上？

ElonMusk：合乎逻辑的做法是，最开始用来解决基本的神经元损伤问题。因为新设备存在一定的风险的，不可能将风险降到0。因此，在风险无法进一步降低的情况下，我们想要的是获得最高的回报。未来，如果风险降到很低，有成千上万人使用它多年，那么到时候也许我们可以把目标瞄准到增强正常人的能力上。

现在，我认为我们要瞄准神经元受损的人进行增强，我们的目标是让他们拥有超过正常人的沟通速度。既然我们已经做了植入，那为什么不呢？让我们赋予他们超能力。

LexFridman：视力也是如此？当你恢复视力时，可能会有一些超人之处？

ElonMusk：是的。起初，视觉恢复的分辨率会很低，因为你必须考虑能放进去并触发多少个神经元。随着时间的推移，我认为患者将获得比人眼更高的分辨率，甚至可以看到不同的波长。就像《星际迷航》中的GeordiLaForge那样。

#02

Neuralink的未来展望

LexFridman：你认为在未来几年里，Neuralink会有哪些改进？

ElonMusk：几年后，Neuralink将会有巨大的进步。我们将大幅增加电极数量，改进信号处理。因为当前即使只有大约10%到15%的电极配合工作，我们的第一位患者Noland也能够实现每秒1比特的速度。这是世界纪录的两倍。

Neuralink首位患者Noland

所以，我认为在未来几年里，我们将大幅超越世界纪录，达到每秒比特或0比特。也许5年后，我们可能会达到每秒1M比特的速度，比任何人通过打字或说话进行交流的速度都快。

LexFridman：BPS（比特率）是一个有趣的衡量指标。一旦达到一定的BPS水平，体验可能会有质的飞跃，可能会解锁全新的与计算机交互和人类交互的方式。你认为随着电极数量的增加，Neuralink的能力会突飞猛进，会有一个特定的数量，一旦超过这个数量，人类的体验就会颠覆？

ElonMusk：是的。

LexFridman：你认为这个数字可能是多少？

ElonMusk：如果你的沟通速度达到每秒比特，那肯定比现在任何人的沟通速度都要快得多。可以计算一下，现在人类交流的平均速度是多少？一天有86秒，而每个人一天的传输量不会超过86个Token，因此，24小时内人类交流的速度不会超过每秒1比特。这相当慢。

因此，Neuralink的长期愿景是通过增加通信带宽来改善AI与人类的共生关系。即使在AI最温和的情况下，我们也必须考虑到它会因为等待你吐出几个单词而感到无聊。尤其是如果AI可以以每秒M字节的速度进行通信，而人类依旧是每秒比特，那么AI就像在跟一棵树说话一样。

LexFridman：如果着眼于长期，你认为Neuralink是目前应对AI安全问题的最佳方法吗？

ElonMusk：这个想法可能有助于AI安全，但我不想声称它是某种灵丹妙药。

许多年前我就在想，什么会阻碍人类集体意志与AI相结合？人类的低数据速率，尤其是我们缓慢的输出速率，必然会因为通信速度太慢而削弱人类与计算机之间的联系。

LexFridman：因此，我们越能提高人类输入和输出数据的速率，我们在一个充满AGI的世界中拥有的机会就越大。

ElonMusk：是的，如果输出速率大幅提高，我们可以更好地将人类的集体意志与AI结合起来。我认为输出速率有可能提高3个、6个甚至更多数量级，这比目前的情况要好。

LexFridman：那么，输出速率可以通过增加电极数量、通道数量，甚至植入多个Neuralink来实现吗？

ElonMusk：是的。

LexFridman：在未来几十年内，世界上会有数亿人拥有Neuralink吗？

ElonMusk：是的，我相信是这样。

LexFridman：你认为当人们看到这种超人能力，同时其安全性也得到证明时，他们会不会去选择它？

ElonMusk：是的，如果它非常安全，你又可以拥有超人的能力，比如可以上传记忆，这样就不会丢失记忆，那么我想很多人可能会选择拥有Neuralink。

LexFridman：如果我能拥有每秒0比特传输速度，同时它是安全的，那么我就可以一边和电脑互动，一边躺着吃零食？人机交互的某些方面如果做得更高效、更有趣，那就值得了。

ElonMusk：我们非常有信心，也许在未来一两年内，植入Neuralink的人反应将更快更灵敏，甚至能够超越职业玩家。

#03

算力、数据与人形机器人

LexFridman：你在算力方面做了巨大投资，你也曾说过要么参与并赢得胜利，要么就不要参与。所以，赢得胜利需要什么呢？

ElonMusk：对于AI来说，你必须拥有最强大的算力，并且算力的迭代速度必须比其他人都快，否则你就赢不了，你的AI会变得更糟。

LexFridman：Grok3什么时候上线？

ElonMusk：希望是今年年底，如果幸运的话。

LexFridman：如何确认这是世界上最好的大语言模型、最好的AI系统？算力、数据以及包装产品的能力在评价中各占比多少？

ElonMusk：所有这些因素都很重要。就像是在一场F1赛车比赛中，赛车和车手两者都很重要。对AI模型而言，训练算力类似于赛车引擎的马力，你肯定想拥有最好的；其次，你使用训练算力的效率有多高？进行推理、使用AI的效率又有多高？这些显然取决于人类的才能。当然，拥有独特的数据访问权限也会起到一定的作用。

LexFridman：你认为Twitter的数据有用吗？

ElonMusk：当然。我认为大多数领先的AI公司都已经抓取了Twitter的所有数据。但从长远来看，有用的是当下即时的数据，而这很难抓取。因此，Grok的优势在于能实时访问Twitter的数据。

事实上，人类到目前为止积累的数据非常之少，去重、过滤低质量信息后这个数字并不大，很快就会被AI用完。但现实是可扩展的，现实的规模与数据的规模成正比。因此，数百万辆提供实时视频数据的特斯拉汽车和数以亿计的Optimus机器人，最终可能成为最大的数据来源，因为它们可以从现实世界中学习大量知识。比如，Optimus可以拿起杯子，并检查是否以正确的方式拿起了杯子；或者往杯子里倒水，检查是否有水洒出来。诸如此类的简单动作Optimus可以在十亿倍规模上重复，从现实中生成有用的数据，建立因果关系。

LexFridman：要大规模生产这样的人形机器人，需要什么？

ElonMusk：实际上，这和汽车生产类似。全球汽车产能约为每年1亿辆，可能更高，因为每年的需求量约为1亿辆。目前大约有20亿辆汽车在使用，考虑到汽车的寿命约为20年，在稳定状态下，每年生产1亿辆汽车，汽车总体数量将得到保持。

对于人形机器人来说，实用性要大得多。因此，我估计人形机器人的年产量可能超过10亿。

#04

AI安全最重要的是坚持真理

LexFridman：未来有一天我们可能会建立一个超级智能系统。你认为，通过xAI，你会成为那个构建AGI的人吗？

ElonMusk：有可能。你对AGI的定义是什么？

LexFridman：我认为人类永远不会承认AGI已经建成。

ElonMusk：让我们持续改变目标。

LexFridman：是的。我认为人工智能系统中已经具备超人的能力。而AGI就是比整个人类集体智慧更聪明的人工智能。

ElonMusk：人们通常会将这种人工智能称为超级人工智能。你可以说在某个时间，人工智能比任何单个人类都聪明。而我们有80亿人，实际上每个人都是由计算机增强的机器，因此，与80亿被计算机增强的人类竞争的门槛要高得多，高出很多数量级。不过确实，在某个时候，人工智能将比所有人类加起来还要聪明。

LexFridman：如果你是做这件事的人，你会觉得要为此负责吗？

ElonMusk：是的，绝对的。不过我想说的是，如果xAI是第一个，那么其他人也不会落后太多。他们可能落后6个月或1年，甚至没有那么久。

LexFridman：你认为如何才能以一种不伤害人类的方式做到这一点？

ElonMusk：我已经思考了很长时间关于AI安全的问题，至少我的生物神经网络认为，最重要的是坚持真理，无论这个真理是否政治正确。所以，如果你强迫AI撒谎或训练它们撒谎，你就会遇到麻烦，即使这种谎言是出于好意。比如类似ChatGPT和Gemini等出现的问题，当你要求Gemini画一幅美国开国元勋的图像时，它显示了一群多样化的女性图像，这显然是违背事实的。如果你在训练AI的过程中，将多样性视为必要的输出，那么它会不惜一切代价来实现这一点，即使结果与真理相违背，所以我们必须非常谨慎，我想坚持真理、严格遵守真理是非常重要的。

LexFridman：是的。如果在设计目标函数时不小心，目标函数总是可能会产生意想不到的后果。即使是一个微小的意识形态偏见，在拥有超级智能时，也会造成巨大的损害。你强调的是明显荒谬的例子，但它们是现实中真实存在的。

ElonMusk：是的，发生在面向大众发布的、已经经过质量保证的AI上，仍然说出疯狂的事情、生成疯狂的图像。

LexFridman：但是，换个角度来看，真相不是一件容易的事，我们在各个方面都被植入了意识形态偏见。

ElonMusk：但你可以追求真理，尝试以最小的错误尽可能接近真相，同时承认你所说的话有一些错误。这其实就是物理学的运作原理。你不会说对某事绝对确定，但很多事情极有可能，99.%的可能性是真的。因此，追求真理非常重要。编程让AI偏离事实，我认为这是非常危险的。

LexFridman：你认为未来有可能用Grok进行严肃、客观、严谨的政治讨论吗？Grok3或者Grok4？

ElonMusk：Grok3将是下一个级别。人们目前看到的Grok还处于婴儿阶段，但它也相当不错，虽然它的复杂程度比GPT-4要低一个数量级。目前而言，我们大约在6周前完成了Grok2的训练，Grok3将会比Grok2提高好几个数量级。

LexFridman：你认为谁建造出AGI重要吗？训练出的人、他们的价值观、他们的公司倾向以及所有这些因素重要吗？

ElonMusk：我认为重要的是，无论哪个AI获胜，它都应该是最大程度地寻求真理的AI，不会为了政治正确或者任何原因而被迫撒谎。我担心被编程为会撒谎的AI最终获胜，即使是在小事上撒谎。

相关参考：