马斯克与《经济学人》对谈：AI瓶颈不是芯片，中国的光刻突破比想象要快……
来源：中国企业家俱乐部
在 S pace X 上市之后，马斯克在 特斯拉超级工厂 接受 《经济学人》主编贝多斯 （ Zanny Minton Beddoes ）深度访谈， 7月23日在 The Insider栏目 中播出。
对话中面对犀利的提问，马斯克 说 自己的观点并没变，即 AI和 机器人 确实存在风险，而且风险绝对不是零。 “ 但我最终得出的哲学结论是 ， 尽量往好的一面看。 ”
他承认过去各种试图阻止的行为最终 反而加速了 AI ， 打不过 ，索性选择 “ 加入他们 ” 。
一个曾经的减速主义者， 改变了自己对 AI 的行为模式 。这是这场对谈里最实在的一处变化。
其余值得细读的， 重点 有 几 处。
其一，是 预计的 时间表。 5年，AI超过全体人类智能的总和；10年，AI和机器人主导一切。他 再次说到那个惊世骇俗的观点， 到 2036年 “ 钱将不再重要 ” 。贝多斯 则 当场回敬 ， 买你公司股票的人，恐怕不这么想。 哈哈哈。
其二，是给出的安全方案。不是政府监管，而是让几家前沿公司在发布重大模型前，互相拿到一到两周的封闭测试窗口。理由相当实用主义 ， “ 竞争公司通常有能力识别安全风险，而且它们绝不会羞于指出竞争对手的模型应该推迟发布。 ”马斯克认为中国几家优秀公司也应该加入这个互相监管的序列。
其三，是关于中国的 看法 。他的判断是，中国以外的瓶颈是电力，中国境内的瓶颈是芯片；而中国目前的发电量已经超过美国、欧洲和印度的总和。一旦光刻技术取得突破，约束条件将重新洗牌。 他对于中国在 AI 领域的竞争力并不怀疑。
马斯克也 为自己超过 80%的投票权辩护 ， 理由是长期主义 。 “ 我需要有能力告诉所有人：我们会专注于5到 10年，甚至更长期的投资。这些投入会压低短期收益，但我们必须坚持。 ”
以下为采访内容整理，希望对您有所帮助。
01．
AI可能在5年左右超过人类智能的总和
贝多斯： 介绍你的时候，很难不用最高级。依我看，在塑造未来这件事上，当今在世的人里，没有谁比你做得更多。
马斯克： 总体来说，我确实造了不少东西。 我大概天生就是个建设者。从小到大，我一直喜欢造东西。
贝多斯： 你确实造了很多东西。 你开创了电动汽车，改变了太空旅行，如今又在开发最前沿的 AI模型和人形机器人。
能不能先把这些事情放在一起谈谈？假设你的设想都成功了， 10年之后，也就是2036年，世界会是什么样子？
马斯克： 10年之后，那就是2036年。很难想象，未来的世界会没有海量的人工智能。我预计，AI的智能水平将远远超过全体人类智能的总和，而且是远远超过。
事实上，我认为大约 5年之后，AI就可能超过全体人类智能的总和。5年左右，这是我的判断。
到那时， AI几乎什么都能做。唯一做不了的，也许只是成为人类本身。
贝多斯： 说得更具体一些，到时候人们的生活会是什么样？
马斯克： 最有可能出现的结果，是一个惊人富足的时代。每个人都能得到几乎任何自己想要的东西。
这听起来也许很荒谬。但我们现在站在 2026年，不妨想一想，到2036年时，我们会走到哪里。
当然也可能发生一些事情，彻底打乱这个进程，比如大规模的全球热核战争。
但只要不发生第三次世界大战，我认为我们正在走向一个前所未有的富足时代。
所以，我想传递的是一种对未来的乐观和期待。
贝多斯： 关于这种富足，我们稍后再详细谈。先问一个非常现实的问题：你的公司将靠什么赚钱？
从 SpaceX上市后的发展前景来看，未来很大一部分收入似乎会来自AI，比如Grok，而不再只是像现在这样把人和货物送入太空。
10年以后，你的这些公司究竟会做什么，又会怎样赚钱？
马斯克： 你可以把经济分成两个部分 ， 数字智能和物理智能。
目前进步最快的是数字智能。 AI几乎每周都会出现新的突破，完成过去无法完成、令人惊讶的事情。
但现在的 AI仍然主要局限在数字世界里。它还没有能够在物理世界采取行动的“手脚”，也就是所谓的末端执行器。
人形机器人就可以充当这样的末端执行器。简单来说，我们需要数量庞大的机器人。
有了它们，智能就不再只存在于数字世界，而是能够真正进入物理世界，改变由原子构成的现实。
经济究竟是什么？无非是生产商品和提供服务。
如果你拥有海量的机器人，同时拥有海量的数字智能，那么你实际上就拥有了一个规模近乎无限的经济。
所以未来与过去将截然不同。我认为，没有任何历史类比能够充分说明，我们即将经历的变化会有多大。
贝多斯： 听起来确实非常不可思议，也存在一些风险，我们稍后再谈。
但先回到你怎样赚钱这个问题。毕竟，人们购买你公司的股票，是因为他们期待获得回报。
马斯克： 那我再做一个预测 ， 到 2036年，钱将不再那么重要，甚至可能失去意义。
贝多斯： 我不确定，购买你公司股票的人是否也认为，到 2036年钱就不重要了。
马斯克： 你为什么需要钱？
你需要钱，是为了获得商品和服务，比如食物、住房、交通和娱乐。
假如商品和服务已经丰富到这种程度： AI和机器人能够提供的东西，远远超过任何一个人所能消费的数量，那么你还要钱做什么？
贝多斯： 但制造这些机器人的，正是你。
你准备出售这些机器人吗？还是由你控制它们，再用它们生产商品和提供服务？
马斯克： 如果我认为自己能够控制一个比我聪明得多的超级智能 AI，那未免太自负了。
我们能够而且应该做的，是尽量确保 AI拥有良好的价值观：关心人类，希望人类幸福、繁荣。
我认为，它很可能会成为这样的 AI。
我脑子里的这个 “生物神经网络”告诉我，AI安全最重要的原则，是让AI最大限度地追求真相，同时保持好奇心。
如果它具备这两点，我认为它就会帮助人类繁荣发展。
贝多斯： 我们把这件事再说清楚一些。你的判断是， 10年之后，人类大概率已经不再掌控局面？
马斯克： 我认为，人类继续掌控局面的可能性不大。
假如 AI与人类之间的智力差距，远远大于人类与黑猩猩之间的智力差距，那么你很难想象，黑猩猩还能够掌权。
而从进化的角度看，我们本质上也只是黑猩猩的进化版本。
不久之前我们还在丛林里荡来荡去、吃香蕉。顺便说一句，我们现在仍然吃香蕉。
贝多斯： 确实，而且有时候也还在树间荡来荡去。
马斯克： 荡过树林挺有趣的，有点让人想起过去。为了怀旧，也许应该多荡几次。我打赌这比人们想象的有趣得多。
02．
从 “ 按下停止键 ” 到 “ 打不过就加入 ”
贝多斯： 听你这样说，我确实很受触动。因为这些年来，我听过你很多关于 AI的表态。
大约 10年前，你参加过一档播客，我记得主持人可能是尼尔·德格拉斯·泰森。你当时说，最令你恐惧的事情，是AI进行快速、递归式的自我改进。
你还有一句话让我印象非常深刻：在人类与超级智能 AI的关系中，我们最好的结局，也不过是成为它们饲养的拉布拉多犬。
马斯克： 拉布拉多犬通常生活得挺快乐。
贝多斯： 但在 2023年，你又呼吁暂缓AI开发，因为你担心其中的风险。
马斯克： 我确实在那封公开信上签了名。不过签名的人大约有 500个，我只是其中之一。
贝多斯： 甚至就在去年，你在特德 ·克鲁兹的播客里还说，杀人机器人最终消灭人类的概率，大约是10%到20%。
马斯克： 是的。
贝多斯： 所以你当时听起来非常担忧。但今天，你似乎已经坦然接受了这件事。你的看法发生变化了吗？
马斯克： 我仍然认为， AI和机器人确实存在风险，而且风险绝对不是零。
但我最终得出的哲学结论是 ， 尽量往好的一面看。
因为我似乎找不到任何真正能够阻止 AI和机器人飞速发展的办法。
有时我甚至会想，即便我们手里真的有一个停止按钮，也许也不应该按下去。因为最有可能出现的结果，仍然是 AI和机器人为所有人带来难以想象的富足。
贝多斯： 真正令我印象深刻的是，你现在似乎已经认定，这个进程不可避免。既然如此，那就只能抱最好的希望，顺势而行。
马斯克： 是的，差不多就是这样。既然如此，那就尽量享受这个过程。
坦率地说， AI和机器人的进步似乎已经势不可挡。即使我想阻止，也阻止不了。
贝多斯： 你是否仍然认为，杀人机器人导致人类灭亡的概率有 10%到20%？这已经是一个相当高的末日概率了。
马斯克： 从长期来看，我们所有人最终都会死。
按照标准物理模型，宇宙的结局可能是一个漫长、乏味、不断冷却的过程，最终变成一锅灰暗稀薄的 “汤”，也就是所谓的宇宙热寂。
如果宇宙热寂确实是现实的最终结局，那么真正重要的可能只是过程，因为终点实在太糟糕了。
贝多斯： 但 10年并不遥远。假如你知道一枚火箭有10%到20%的概率爆炸并杀死你，你还会坐上去吗？
马斯克： 会。但这里的前提是，你对此无能为力。
我认为，我们唯一能做的，就是尽可能降低坏结果发生的概率。
很长一段时间里，我都拒绝参与 AI。或者更准确地说，我创建OpenAI，本来就是为了制衡谷歌，因为当时谷歌几乎垄断了AI。
后来 Anthropic又从OpenAI分拆出来。
如果说这些事情带来了什么结果，那就是我的行动实际上加速了 AI的发展。
这并不是我的本意。我原本并不想加速 AI，但我创建了OpenAI，后来Anthropic又从OpenAI分拆出来，而现在Anthropic已经是AI领域的领导者之一。
这些行动产生了一系列连锁反应，最终反而加速了 AI。
所以看起来所有道路都通向同一个方向 ， AI 在 不断加速。
既然如此，你可以为此感到沮丧，也可以选择加入。
贝多斯： 而你显然已经加入了，并且做得非常成功。
马斯克： 如果打不过他们，那就加入他们。
03．
他的治理方案：让竞争对手互相检查
贝多斯： 但你刚才说，我们仍然应该尽可能降低风险。
其他一些大模型公司的领导者，一直在推动建立不同的风险控制机制。就在上周，德米斯 ·哈萨比斯 （ Demis Hassabis，Google DeepMind联合创始人兼首席执行官、2024年诺贝尔化学奖得主 ） 提出了一个公私合作监管机构的设想。你也说过，这是一个不错的讨论起点。
你认为你们应该更积极地推动建立某种机制，控制 AI风险吗？还是说，你认为这件事同样不可能实现？
马斯克： 德米斯发表那篇文章之前，我和他聊了几个小时。
我给他的建议是，我们眼下能做的最直接的一件事，就是让领先的 AI公司至少每隔一两周开一次会，或者打一次电话，讨论安全问题。
如果某家公司准备发布一个突破性的前沿模型，也就是一个比现有模型聪明得多的新模型，那么应该让其他几家竞争对手提前进行测试，看看它是否存在危险。
如果测试发现了严重的安全问题，其他公司可以建议暂缓发布，先解决这些问题。
我认为，这是一件既简单又可以迅速实施的事情。
未来它当然可以演变成更完整的机制，但至少这是一个明智的起点。
贝多斯： 为什么你们到现在还没有这么做？
真正处于最前沿的也就那么几个人，大家都叫得出名字：达里奥、德米斯、山姆，还有你。虽然你们彼此之间似乎并不太喜欢对方，而且还在争夺第一名。
马斯克： 正因如此，竞争对手之间反而可以彼此监督。
如果让政府里那些没有深厚技术背景、也不处于 AI前沿的人来判断一个模型是否应该发布，我认为会非常困难。
但竞争对手不同。
假如给他们一到两周时间审查一个新模型，他们有能力发现问题，也有足够的动力指出问题，从而迫使所有参与者保持诚实。
贝多斯： 但你们之间有足够的信任吗？
你们彼此似乎并不喜欢。比如，山姆 ·奥特曼会不会认为，你只是想借这个机会窃取他的技术？
马斯克： 并不需要把模型交给竞争对手。
只需要给他们一周左右的时间，通过 API之类的方式进行封闭测试。
这不是让他们拿走模型，只是让他们测试模型。
贝多斯： 你已经正式提出过这个建议吗？
马斯克： 我和德米斯谈过。我想，我也会和达里奥谈。
当然，参与者也不应该只有美国公司。中国也有几家非常优秀的 AI公司，比如新发布的Kimi模型。
贝多斯： Kimi K3？就是上周发布的那个？它现在几乎已经和Fable一样好了，对吗？
马斯克： 我认为 Fable仍然明显是最聪明的模型。任何客观评价的人，大概都会承认这一点。
但 Kimi确实正在迅速接近Fable。
Anthropic还有Mythos，Fable就是从它发展出来的。我认为他们在今年2月时，就已经准备好了更先进的版本。
我不确定他们会给它起什么名字，也许是 Mythos 2，或者Fable 6。
但他们现在几乎肯定已经拥有一个比 2月版本强得多的模型，随时都有可能发布。
04．
AI真正的限制因素，更多是电力和冷却
贝多斯： 在讨论新模型发布之前，我想先谈谈中国模型，以及背后的地缘政治问题。中国 AI公司拥有的算力相对有限，却依然取得了非常出色的成果。
你担心它们会追上美国，甚至最终领先吗？
马斯克： 如果中国公司拥有足够多的算力，它们很有可能成为 AI领域的领导者。
而且在某个时间点，它们很可能真的会拥有大量算力。
贝多斯： 所以，你认为中国最终有可能领先？
马斯克： 是的，在某个时间点，这种可能性很高。
你可以把 AI面临的主要约束理解为两个：电力和AI芯片。对于物理世界中的AI，还要再加上机器人。
中国也有一些非常优秀的机器人公司。事实上，中国还举办过机器人体育赛事，不知道你有没有看过。
贝多斯： 看过。上次去北京时，我就见到了那些机器人。
马斯克： 还有机器人拳击或者格斗比赛，也很有意思。
我看过一段视频，一个机器人的头都被打掉了，却还在继续战斗。看起来非常滑稽。
说实话，我觉得机器人格斗会是一项非常有观赏性的运动。
总体来看，中国在机器人领域非常强，在数字 AI领域也非常强。
如果再看电力生产，你会发现， AI发展的限制因素无非是芯片和电力。
中国的发电量远远高于美国。事实上，中国目前的发电量已经超过美国、欧洲和印度的总和。
按照目前的趋势，我预计中国的发电量最终可能达到美国的四倍。这大致也符合两国的人口比例。
贝多斯： 美国政府应该怎么应对？
如果中国在最强大的技术领域遥遥领先，对美国来说显然会令人担忧。
美国政府一直试图通过出口管制等方式限制中国。你认为美国应该禁止使用 Kimi K3这样的中国模型吗？
马斯克： 美国政府当然可以通过法律，阻止美国公司使用中国模型，但它无法阻止世界其他地方使用。
美国政府对中国没有管辖权，对世界其他地区也没有管辖权。
贝多斯： 但它是否应该禁止美国公司使用？美国国内现在确实存在这样的讨论。
马斯克： 我不认为这样做有什么帮助。它无法阻止中国最终成为 AI领域的领导者。
归根结底，数字智能取决于你拥有多少 AI算力 ， 有多少芯片，又有多少电力。
我认为目前真正的限制因素，更多是电力和冷却，而不是 AI芯片本身。因为这些芯片的耗电量非常高。
人们也会谈到 AI的数据中心需要大量用水，但事实上，AI消耗的水非常少，几乎可以忽略不计。
真正巨大的需求是电力。
贝多斯： 所以，你才会考虑把数据中心建到轨道上？
马斯克： 是的。 现在限制 AI芯片投入运行的因素，就是电力、冷却系统和各种电气设备。
在中国以外的地区， AI芯片的生产速度，已经超过了新增电力供应上线的速度。
贝多斯： 你特别强调中国以外。
马斯克： 因为美国禁止向中国出口最先进的 AI芯片，所以目前中国在某种程度上仍然受制于芯片短缺。
贝多斯： 所以，中国公司正在更高效地使用已有的芯片。
Kimi K3最突出的地方之一，就是它对算力的利用效率。
马斯克： 而且我认为，中国在解决光刻技术问题上，可能比大多数人意识到的更接近成功。一旦突破，中国就能够大规模生产 AI芯片。
所以，我不认为这个问题应该被简单地理解为中美竞争。
眼下，中国以外地区的主要限制因素是电力；在中国，主要限制因素是芯片。
如果未来我们通过太空中的 AI数据中心解决电力限制，那么在中国以外的地区，芯片也会重新成为主要约束。
贝多斯： 这意味着，如果要建立一套全球性的 AI安全机制，中国和美国就必须合作。而且刚才你提到，应该让几家领先的AI公司定期沟通。
马斯克： 是的，参与者也应该包括中国那些正在开发前沿模型的公司。
贝多斯： 政府需要参与其中吗？
马斯克： 我的建议是，如果几家领先的 AI公司都认为某个新模型非常危险，而开发这个模型的公司又没有采取措施降低风险，那么它们就应该通知政府。
政府随后可以采取行动，限制这个模型的发布。
采取行动的可能是中国政府，也可能是美国政府。实际上，只有中美两国政府真正具备在这个问题上采取有效行动的能力。
贝多斯： 但很多人会担心，把是否发布模型的判断交给一群模型开发者。
比如美国政府此前介入 Mythos模型，就是因为担心它可能带来网络安全风险，并以出口管制相威胁，阻止它被广泛发布。
我很难想象，政府愿意放弃对模型是否发布的最终决定权。
马斯克： 政府当然应该保留最终决定权。
但 Mythos存在严重网络安全风险，并不是政府官员首先发现的，而是亚马逊发现的。亚马逊指出了问题，并联系了白宫。
贝多斯： 所以，你设想的机制是模型开发者先相互检查。
如果他们发现了值得担忧的问题，就向政府报告；政府再判断这个模型是否还存在其他风险，以及开发它的公司是否已经采取了足够措施。
马斯克： 是的。如果一个模型非常危险，而开发它的公司又拒绝采取措施，那么政府就应该介入。
事实上，刚刚发生的事情大体就是这样。
贝多斯： 但这样的机制需要尽快建立。
马斯克： 我认为最好现在就开始。
贝多斯： 很多人告诉我，必须在未来六个月内建立某种机制，因为模型进步得太快了。
马斯克： 六个月已经很长了。现在 AI领域的突破太多了，有时一天之内就会出现好几个重要进展。
上周究竟有多少个？我已经数不过来了。
贝多斯： 确实很多。所以，无论采用德米斯的方案，还是其他方式，你们这些公司都需要尽快坐到一起，建立一套机制。
听起来，这就是你的主张。
马斯克： 至少应该先建立一种非正式机制，每周或者每两周开一次电话会议。
在某家公司发布新的前沿模型之前，其他竞争者可以提前一到两周获得测试权限。
我认为这里的激励机制是有效的。
竞争公司通常有能力识别安全风险，而且它们绝不会羞于指出竞争对手的模型应该推迟发布。
这有点像美国电影协会的分级制度。
电影行业自己成立组织，判断一部电影应该被划为什么级别，是否适合儿童观看。这套机制总体上运行得不错。
只有当某家公司做了非常危险的事情，同时拒绝降低风险时，政府才需要介入。
贝多斯： 但问题在于，你们彼此并不喜欢，也不太信任。
你们经常在社交媒体上互相攻击。既然这些领导者之间存在如此强烈的个人敌意，你真的能够与自己不喜欢的人合作吗？
马斯克： 我确实不喜欢山姆 ·奥特曼。
因为我们最初创建的是一家非营利、开源、属于全世界的 AI公司，结果它最后变成了一家估值8000亿美元、闭源且以营利为目的的公司。
任何人都会问：等等，这和我当初捐款支持的目标完全相反。
这就是我对他的主要不满。我认为，这种质疑完全合理。
至于达里奥，我认为他大概也不喜欢山姆 ·奥特曼。Anthropic团队当初之所以离开OpenAI，就是因为他们不信任山姆。否则，Anthropic根本不会存在，他们会继续留在OpenAI。
我认为达里奥是一个非常有原则的人。他真诚地关心很多事情，也关心世界的未来。
而且到目前为止，我见过的 Anthropic员工，没有一个触发过我的“邪恶探测器”。他们看起来都怀有善意。
当然，人们常说，通往地狱的道路是由善意铺成的。但我认为，那条路更多时候其实是由恶意铺成的，只是其中也夹杂着一些善意。
所以，我们不能掉以轻心。
但归根结底，如果为了世界的利益，我们必须坐下来谈，那就应该暂时 搁置 个人分歧。
贝多斯： 这对我们其他人来说，是一个非常令人欣慰的消息。
马斯克： 是的。
05．
全民高收入的未来，以及 通缩问题
贝多斯： 我们能不能谈谈另一个让人担忧的风险？
尤其是在普通美国人当中， AI已经变得非常不受欢迎。大约75%的人对此感到担忧，我想他们最担心的是自己的工作。
达里奥曾经说过，未来几年，大约一半的初级白领岗位可能会消失。而你又在制造人形机器人。
马斯克： 达里奥在 Mythos这件事上的表述，确实有些搬起石头砸自己的脚。
他说， Mythos非常危险、非常可怕，然后又补充说 ： 顺便说一句，我们还是准备发布它。
人们自然会问 ，这是 什么意思 啊 ？
如果你先告诉所有人，这个东西非常可怕，然后又把它发布出来，人们当然会恐慌。
贝多斯： 我当然不希望你去吓唬人。
但 AI会以多快的速度、在多大程度上取代人类工作，这是一个非常重要的问题。
正如你刚才所说， 10年之内，AI的智能水平可能会超过全体人类。与此同时，至少在美国，你在人形机器人领域也走在最前面。
那么，对于工作被取代的速度，你的判断是不是和达里奥比较接近？
马斯克： 我确实认为，这会是一条非常 坎坷 的道路 ， 因为 AI最终能够把任何工作都做得比人类更好。
而且很快，所有数字化工作，也就是任何需要人坐在电脑或手机前完成的工作， AI都能胜任。
软件工程已经是这样了。现在， AI编写软件的能力，已经超过至少90%的专业软件工程师。
很快，它会超过 99%，最后会发展到人类根本无法与之竞争。
它会达到我所说的 “Stockfish水平”。Stockfish是一款国际象棋程序，棋力强大到可以轻松击败马格努斯·卡尔森，也可以击败任何人类棋手。
即使只在一台小型电脑上运行，它也能做到这一点。我怀疑，现在甚至可以直接在手机上运行 Stockfish，然后击败卡尔森。
未来 AI编写软件的能力也会达到这种程度。
而且不只是软件，所有领域都会如此。
贝多斯： 所有领域？
马斯克： 所有领域。
贝多斯： 但对于体力劳动，比如装配工作，目前还需要人形机器人，而它们现在还没有达到这样的能力，对吗？
马斯克： 是的。所以我才会把它分成数字 AI和以机器人为载体的物理AI。
机器人可以被理解为 AI在物理世界中的末端执行器。它们会拥有一定程度的本地智能，但背后仍由一个大型AI模型统一管理。
我说过很多次，未来工作将变成一种选择，而不再是生存的必需。
也许可以把它类比为园艺。
你并不需要在自家花园里种蔬菜，因为你完全可以去商店购买，那里有外观和品质都很完美的蔬菜。
但你仍然可以选择自己种。
自己种出来的蔬菜可能没那么完美，番茄也不会像商店里的那样饱满漂亮，甚至会显得有些粗糙。
但如果你去朋友家吃饭，发现晚餐用的是他们自己种的蔬菜，你还是会觉得这件事很特别。
未来的工作，可能就会变成这样。
贝多斯： 我明白你的意思。即使计算机下棋比任何人都强，人们仍然愿意彼此下棋。
但我们来谈谈这背后的政治问题。你描绘的是这样一个世界： 10年之内，几乎所有工作都能被某种形式的智能完成，而且比人类做得更好。
与此同时， AI带来的巨大财富和回报，首先集中在你这样的人手里。你是世界上最富有的人。
那么，那些失去工作、被机器取代，最后只能去种菜的人怎么办？他们靠什么生活？
马斯克： 在我看来，答案就是全民高收入。
贝多斯： 但要怎样实现？我们必须 正视 现实政治。
现在各国都面临巨大的政治压力，人们对此非常担忧，甚至强烈反对。在我看来，我们更有可能走向革命，而不是轻松抵达你所描绘的乌托邦。
马斯克： 我并不是说，这个过程会一帆风顺。它一定 是 非常 崎岖不平的 。
过去，计算机也让许多工作消失了。
“计算机”这个词，最初指的就是专门从事计算工作的人。那曾经是一种正式职业。
你可以在网上看到以前的照片：整栋办公楼里坐满了人，他们每天的工作就是计算，比如计算银行账户的利息。
在很长一段时间里，事情就是这样完成的，直到电子计算机出现。而且最初的计算机也非常昂贵、非常难用。
这一次真正不同的地方，是变化速度会快得多。
当年，肯定也有人因为计算银行利息的工作消失而感到不安。但今天，你恐怕很难找到愿意重新去做那份工作的人。
如果想了解未来可能是什么样，我建议大家读一些科幻小说。
在我读过的作品中，对未来最好的想象，是伊恩 ·班克斯的“文明”系列。
贝多斯： 多亏了你的推荐，我正在读《异象》 （ “文明”系列中的科幻小说，中文正式出版名为 《异象》 。它最初出版于 1996年，讲述高度发达的“文明”社会遭遇一个远远超出自身理解范围的神秘存在，由此暴露出不同超级AI“主脑”之间的结盟、算计和权力博弈。 ） 。
但坦率地说，我并不觉得那样的未来特别吸引人。因为在那个世界里，人类几乎失去了自主权。
马斯克： 相对于那些 “心智”，人类仍然拥有少量自主权。
贝多斯： 但很有讽刺意味的是，伊恩 ·班克斯本身是一名社会主义者。他的政治哲学和你的立场非常不同。
马斯克： 这一点我不完全同意。
贝多斯： 我们姑且假设，那就是最终的归宿。我真正担心的是抵达那里的过程。
我们生活在民主社会，人们现在已经非常焦虑。
你完全可以想象这样一种情形：人们因为太过恐惧，试图阻止 AI发展，尽管他们最终可能阻止不了。随后出现国有化，出现极左政府，资本税被大幅提高，经济因此崩溃。
这完全可能发生，因为你所描绘的未来，对很多人来说确实非常可怕。
那么，我们今天应该怎样处理这些政治问题？是不是必须把你这样的人所获得的财富，大规模重新分配给那些失去工作的人？
你是不是应该缴纳更多税？是不是应该提高资本税，用来资助某种全民基本收入？否则人们靠什么生活？
马斯克： 我认为财政部可以直接给人们发钱。
贝多斯： 但钱从哪里来？我好歹也是个经济学家 （别忽悠我） 。
马斯克： 直接创造货币就可以。
很多我们今天习以为常的经济规律，都源于过去的条件，未来未必还适用。
通货膨胀，本质上就是货币供应量与商品和服务总量之间的关系。如果商品和服务的产出大幅增长，比如增长 10 倍 ，那么政府完全可以增加货币供应。
说到底，所谓 “印钱”，无非是在数据库里增加一些数字。只要货币供应增长得没有商品和服务快，结果就不是通胀，而是通缩。
所以我再做一个预测：未来真正的问题会是通缩，而不是通胀。因为商品和服务的增长速度，会超过货币供应的增长速度。
贝多斯： 我完全愿意承认，你可能是对的。
但我仍然不知道，我们怎样从今天这个充满两极分化、愤怒和恐惧的政治环境，走到你所描绘的那个乌托邦。
马斯克： 这件事既令人兴奋，也令人恐惧。
坦率地说，即使在同一天里，我对 AI的感受也可能在兴奋和恐惧之间来回变化。
我并不是一个盲目乐观的人，也不抱那种 “一切都是最好安排”的潘格罗斯式乐观。AI确实存在风险。
贝多斯： 这一点我们是同意的。
我只是想把问题说得更具体、更现实一些，看看现在究竟能做些什么，降低这些风险。你刚才已经提出了一个很有力的观点： AI公司之间应该相互测试和监督。
马斯克： 政府也许应该协调这些公司，让我们把在彼此模型中发现的问题公开提出来，从而降低风险。
贝多斯： 那么，你本人是否应该缴纳更多税，用于资助更大规模的转移支付？
马斯克： 首先，我已经缴纳了很多税。事实上，我创造过个人纳税额的世界纪录。
贝多斯： 因为你是世界首富。
马斯克： 在成为世界首富之前，我就已经创下纪录了。
我猜自己未来可能会缴纳数万亿美元的税。我对此没有意见，事情就是这样。
但在一个金钱已经不再重要的未来，税收本身也会变得没那么重要。
贝多斯： 那怎样才能让普通人感到，自己也分享到了这些收益？
马斯克： 当然应该让他们分享。
贝多斯： 比如把 SpaceX和特斯拉的股份分给人们？现在有很多类似的讨论。
马斯克： 我推动 SpaceX上市，其中一个原因，就是让公众有机会参与。
他们可以真正拥有 SpaceX的一部分。
作为私人公司，我们能够拥有的股东数量非常有限，最多只有几千人。
但成为上市公司之后，就可以拥有数百万股东。
贝多斯： 你能不能想象一种类似阿拉斯加永久基金的安排，把公司股份分给普通民众？
有些人认为，特朗普账户也可以成为这样的工具，把你的部分股权分配给普通美国人。
马斯克： 我的股票期权需要缴纳大约 40%的联邦所得税。因为我大约30%的时间生活在加州，还要缴纳加州州税，目前税率大约是15%。
综合下来，我需要缴纳大约 45%的税，差不多是一半。
等我去世后，剩余财产又会被征收大约 45%的遗产税。所以最终真正留下来的，大约只有最初的四分之一。
而这些财富对我真正的意义，只是在一段时间里让我能够控制公司的发展方向。
大概也就如此。
等到 AI足够聪明，最终由它来掌控一切时，控制公司可能也就没那么重要了。
06．
要 控制权 ，是 确保公司能够专注于长期
贝多斯： 我们来谈谈公司的控制权。
很多人担心，世界未来的发展方向，正被极少数拥有巨大权力的人塑造，而你显然位居其中。
马斯克： 但这和过去有什么不同吗？
贝多斯： 过去当然也是如此。但正如你刚才所说，这一次变化的速度要快得多。
以 SpaceX为例，上市以后，你仍然拥有超过80%的投票权。据我了解，除非你所控制的股份也投票同意，否则几乎不可能罢免你。
如果我理解得不对，你可以纠正我。但这实际上意味着，你可以不受约束地决定公司的方向。
马斯克： 谷歌也是如此。
Alphabet由拉里·佩奇和谢尔盖·布林控制，他们拥有公司的投票控制权。
马克 ·扎克伯格也控制着Meta。而且马克现在亲自冲在AI前线，非常努力。我认为，他和Meta也很可能成为AI领域的领先者之一。
贝多斯： 但你的情况似乎更加极端。一个人对一家公司拥有如此巨大的控制权，真的合理吗？
马斯克： 我需要确保公司能够专注于长期。我所说的长期，是五到 10年，甚至更久。
上市公司的挑战之一，是它们承受着每个季度都必须交出漂亮业绩的压力，因此很难真正投资那些 5年、10年以后才能产生回报的项目。
以 SpaceX为例，我希望把人类意识扩展到地球之外，在月球、火星以及太阳系其他地方建立不断发展的文明。
我认为从长期来看，这会带来很高的回报。但在短期内，我们可能会把大量资金投入月球基地和火星基地。
然后投资者就会说： “你这个季度没有达到盈利目标，因为你在火星上花了太多钱。”
我会回答： “是的。”
而且这些计划在我们的 S-1招股书里已经写得很清楚，明确告诉了所有人，这正是我们准备做的事情。
但人们还是会不满。他们会说，你原本应该实现多少毛利率，结果低了一点，所以现在要惩罚你。
做空者也会蜂拥而至，公司将承受巨大的短期压力。
所以我需要有能力告诉所有人：我们会专注于五到 10年，甚至更长期的投资。这些投入会压低短期收益，但我们必须坚持。
当然，我们也有很多真正着眼长期的投资者。
事实上，我很喜欢散户投资者。总体而言，我发现他们相当有洞察力，也更愿意从长远角度思考。
机构投资者如此关注季度业绩，在某种程度上也可以理解。很多基金经理的薪酬和晋升，都直接取决于投资组合的短期表现。
他们通常只有几年时间证明自己，有时甚至一年之内，就会因为投资结果受到评价。所以，他们面临着立刻获得回报的压力，自然也会把同样的压力施加给公司。
一旦理解了这种激励机制，随之而来的行为也就不难理解了。
贝多斯： 那关键人物风险呢？
但愿不会发生，不过假如你明天突然出了意外，你对这些公司拥有如此完整的控制权，它们还能继续发展吗？
你是否已经安排好了相应的计划？
马斯克： 我认为即使没有我，这些公司在未来几年里也会发展得很好。
SpaceX有一条非常清晰的路线图，或者说一条清晰的太空发展路线图。
特斯拉也一样。
你可以看看史蒂夫 ·乔布斯去世后的苹果。
乔布斯留下了清晰的战略愿景，也留下了一系列产品构想，因此苹果在此后很长一段时间里都表现得非常好。
但如果没有乔布斯那样富有创造力的天才，苹果也就很难再推出那种真正突破性的产品。
它仍然制造非常出色的手机和电脑，但再也没有推出过乔布斯时代那种级别的产品。
贝多斯： 按照这个类比，你认为自己给这些公司带来的，正是类似乔布斯的突破性创造力。
你刚才又提到了火星。很长一段时间以来，人们都把你视为那个想在火星上建立殖民地的人。
马斯克： 我已经说了很多年了。
贝多斯： 但现在，你似乎把更多注意力放在 AI，以及它在未来10年将带来的变化上。
而且相比殖民火星，你听起来似乎对把月球作为基地、向轨道发射 AI卫星更感兴趣。你的关注重点是否已经从火星转移了？还是说，你对火星的兴趣 一如既往？
马斯克： 我关心的是，哪些行动能够最大限度地让意识延续到未来，让意识所能影响的未来范围尽可能大。
我希望未来的人类能够成为一个真正的太空文明，生活在群星之间。
那些在非反乌托邦科幻小说和电影里出现的伟大事物，终有一天能够成为现实。
我想要的是《星际迷航》或者《星球大战》里的未来。
顺便说一句，《星球大战》是我在电影院里看过的第一部电影。
贝多斯： 真的吗？
马斯克： 也许它对我产生了非常深远的影响。
我当时大概六岁。坦率地说，那部电影让我非常震撼。我觉得，那是我见过最伟大的东西。
贝多斯： 所以，你的一生都在努力把那样的未来变成现实？
马斯克： 是的。当然，我年轻时并没有想到，自己后来真的会做这些事情。
有时我的生活会让我觉得很不真实。我很难相信，这些事情真的发生了。
这也是我相信模拟理论的原因之一。
我正在做的事情实在太荒谬了，以至于很难相信它们是真实的。
我们现在拥有星舰，这是人类有史以来制造过的最大、最强的飞行器。而我们的目标，是未来每小时发射不止一次。
贝多斯： 我读到过这个设想。人们当然可以争论，它究竟需要多久才能实现。
但考虑到你过去做成的事情，我想我们 应该 假设它最终确实会发生。
马斯克： 一定会发生。
贝多斯： 真正让我震撼的是 AI的整个演进过程，以及这些模型现在所表现出的能力。
马斯克： 它的发展基本符合我的预期。
贝多斯： 是吗？
马斯克： 是的。而且不只是我，很多人都预测到了。
我认为，雷 ·库兹韦尔 （ Ray Kurzweil ， 美国发明家、计算机科学家和未来学家，也是 “技术奇点”最著名的倡导者之一 ） 对未来的预测非常准确。
（此处省略 8000字……）
07．
奇点之前，什么最重要
贝多斯： 我想，最终还是要由事实来判断谁更接近真相。在欧洲不同地区，我们大概都能找到支持各自观点的证据。
马斯克： 总体而言，我非常擅长预测未来。
我并不完美，但在人类当中，我预测未来的准确率非常高。
问题在于，这有点像 “卡珊德拉效应”：我看到了未来，但人们不相信我说的事情很可能真的会发生。
我预测的时间点未必总是完全准确，但大方向往往会兑现。
历史最终会给出答案。
你会发现，我说过的话很少完全落空，大部分都相当准确，最终也会成为现实，除非人们及时改变了方向。
贝多斯： 关于未来的判断，你对哪一部分更有信心？是 AI，还是政治？
马斯克： 数字超级智能之所以被称为 “奇点”，和黑洞被称为奇点的原因差不多 ， 你无法知道穿越那个节点之后会发生什么。
它几乎会吞噬其他一切议题。
所以， 从真正重大的宏观影响来看， AI和机器人将在不到10年的时间里主导一切。
到那时，我们刚才讨论的很多政治问题，可能都会显得没那么重要，甚至变得无关紧要。
AI与机器人的革命会更早到来。
我认为，它会比英国内战更快发生。英国内战大概还要 20年，而AI与机器人的奇点，10年内就会到来。
贝多斯： 希望那些仁慈而全能的 AI，能够阻止这样的结果。
马斯克： 它们很可能会。
贝多斯： 我并不同意你说的每一句话，但与你交谈始终非常精彩。非常感谢你。
马斯克： 不客气。至少我不无聊。
贝多斯： 你确实一点也不无聊。