访谈·中文精读

马斯克采访

Elon Musk interview

中文精读由 AI 基于原始视频与文稿改写,非官方翻译,可能存在偏差或错误;表述以原视频为准。说明

马斯克决定自己造火箭的时候,他一位最亲近的朋友做了一件事:把历史上火箭发射失败的片段剪成一条长视频,按着他从头看到尾。

他看完了。然后还是去造火箭了。

这件事是他在 2015 年跟物理学家马克斯·泰格马克(Max Tegmark)对谈时自己讲的。那一年,SpaceX 的火箭回收还在摔,特斯拉 Model S 的产能还在爬坡,两家公司从破产边缘爬回来才六年。人工智能安全这个词,当时在主流舆论里基本没人当回事。泰格马克刚发起未来生命研究所(Future of Life Institute),正在为这个议题筹钱,马斯克当场捐了 1000 万美元。

这场对话信息密度很高,几乎把马斯克后来十年反复讲的那套世界观全交代了一遍:他为什么在乎人类的远期未来,为什么明知成功率只有一两成还敢下场,为什么把 AI 列进最危险的技术名单,以及为什么他觉得 1000 万美元根本不够。

他关心远期未来,起点是小时候读的科幻小说

泰格马克开场就问他,你对人类遥远未来的兴趣是什么时候开始的。

马斯克的回答很平淡:小时候读了很多科幻和哲学,然后一直在想一个问题,为什么要做事,人生的意义到底是什么。

这个追问听起来像是十几岁少年的胡思乱想,但他给出的答案一直用到了今天。

我最后得出的结论是,我们真正需要做的,是确保生命延续到未来,尤其是意识生命。做到这一点,我们才更有能力去理解宇宙的本质,获得更大的启蒙。(马斯克)

注意这句话里的因果顺序。他没有说"因为人类珍贵所以要活下去",他说的是"活下去,才能理解宇宙"。延续是手段,理解是目的。这个排序决定了他后面所有的判断:如果一个物种把自己搞灭绝了,宇宙里就少了一个能够提问的存在,损失的不只是一群生物的性命,整条认知链条断掉了。

泰格马克夸他独特,说自己认识的人里很少有人这么认真对待远期未来。马斯克当场推了回去:我不觉得自己有多独特,你也有一个研究所,你显然也在意这件事。

这个反应很符合他的说话习惯。别人给他戴高帽,他第一反应是把帽子摘下来。后面整场对话里,他几乎没有一次用"我很有远见"这类框架描述自己,说的都是"这件事没人做,我可能能帮上忙"。

他没觉得这些事有多大胆

泰格马克的第二个问题是:你不只是谈论未来,你真的去开公司做这件事,是什么让你这么大胆。

马斯克的回答是,我不觉得这些事有多大。

它们看上去就是顺理成章该做的事。大概更接近一种长期优化,而不是短期优化。(马斯克)

"长期优化"这个词值得停一下。

短期的优化算的是这个季度财报、这个月股价、今年能不能升职。长期的优化算的是一百年后人类还在不在,两百年后意识还能不能继续提问。这两种算法用的数据完全不同,给出的答案也常常相反。多数人天生用前一种,因为前一种有反馈,做错了下周就知道;后一种没有反馈,做错的时候你大概已经不在了。

他接着说了一句更实在的话。

我不是说每个人都该去做这些事,但总得有人做。所以如果我看到某件事没人做,而我又可能帮得上忙,那我就试着去做点什么。(马斯克)

这个标准朴素得有点扫兴。它筛掉的恰恰是最常见的两种犹豫:一种是"已经有别人在做了,我不必掺和",另一种是"这事儿轮不到我"。马斯克用的判据只有两条:有没有人在做,我能不能帮上忙。两条都满足,他就下场。

这套逻辑解释了他后来一系列看起来毫不相干的项目。火箭、电动车、太阳能、隧道、脑机接口,从商业分类上毫无关系,但放到"总得有人做"这把尺子下面,它们都是同一类东西:某个对未来很关键的环节,眼下没人认真做。

那个他听了无数遍的笑话

泰格马克追问:一路上难道没人告诉你,开航天公司、开新的电动车公司、再开一家太阳能公司,这是疯了吗。

马斯克说,当然有,很多人告诉我失败概率极高,说这是蠢事。然后他讲了那个视频的故事。

朋友把火箭爆炸的集锦剪好,逼他看完。他说有很多人试图劝他别干。接着他提到一个段子:

怎么在火箭生意里赚一笔小钱?先投进去一大笔。(马斯克)

这个笑话他被讲了太多遍,以至于每次别人刚开口,他就知道包袱在哪,干脆自己先把答案说出来。对方愣在那里,分不清他是不是在开玩笑。

于是他也顺着开玩笑:有人问他为什么开火箭公司,他说我在找一条最快的路,把一大笔钱变成一小笔钱,这条看起来挺合适。

这段对话好笑,但它藏了一个容易被忽略的信息:那些劝他的人说的每一句话,他其实都同意。他从来没觉得失败概率低。

我本来就已经认为失败的概率很高,成功的可能性因此很低。所以这些算不上新信息。(马斯克)

他一开始给自己算的成功率,只有一到两成

他给出了具体的数字。SpaceX 大概有 10% 到 20% 的机会活下来。特斯拉差不多。SolarCity(太阳城)的成功率高很多,可能也就 50% 上下。

这几个数字放在一起很有意思。他没有把三家公司的成功率都说成九死一生,而是分级了:最难的火箭一成到两成,造车同量级,装太阳能板五五开。说明他当时真的算过,这些数字是动手之前的估算,后来才被事实验证。

然后他补了一句:很长一段时间里,SpaceX 和特斯拉都差点没活下来,非常接近死掉。2008 年和 2009 年的大衰退,是一次极度惊险的擦边。

这句话的分量需要放回时间里才能体会。2008 年 9 月,猎鹰 1 号第四次发射成功,那是这家公司最后一次机会,前三次全炸了。同年 12 月,特斯拉的融资谈崩,圣诞节前账上的钱只够撑几天。两家公司同时在悬崖边上,而这个人的全部身家都压在里头。

所以他说"我本来就知道成功率只有一成",里面没有半点谦虚的成分,那就是当时的真实估算。

这里有个值得所有做长期项目的人记住的算法:给自己手上正在做的事算两个数,分开算。第一个是成功率和成功后的收益,第二个是失败之后你还能不能站起来。第一个数决定值不值得做,第二个数决定你能押多大。

当一件事成功率只有 10%,多数人算出来的期望值是负的,于是不做。但如果做成之后的收益足够大,10% 的期望值也可能是正的。更关键的是第二个数:马斯克当时的选择是把所有筹码推上去,输了就一无所有,而他判断自己能承受。很多人算错就错在只算第一个数,然后在第二个数上翻车。

五个会改变社会的技术方向

泰格马克把话题拉回未来:哪些技术对社会影响最大。

马斯克报了一个清单,明确说顺序不代表重要性。

  1. 让生命成为多行星物种
  2. 实现能源的可持续生产与消费
  3. 互联网整体的持续增长
  4. 如果真做的话,重写人类的基因
  5. 人工智能

清单本身没什么新鲜的,好看的是他后面的划分。

前三个我在做,后两个没有。后面这两个最有可能变成双刃剑。(马斯克)

这个切分值得细看。

前三个的共同点是:做砸了最坏结果也就是白花钱、公司破产、技术路线走错。风险有限,可以重来。火箭炸了再造一枚,太阳能板卖不动就降价,互联网产品死了用户骂几天也就过去了。

后两个不一样。基因重写和人工智能出错的方式是不可逆的。你没法把已经扩散到全世界的基因改动收回,也没法把已经跑起来的超强智能按回去。

他躲开后两个的理由,跟胆子大小无关。他把风险的性质分了类,然后在能承受失败的前三类里下注,在后两类里出钱让别人研究怎么不出事。这个分工后来一直没变:他做火箭和车,同时给 AI 安全研究掏钱,还在 2015 年底参与创办了 OpenAI。

AI 好的一面:把无聊的活干完

泰格马克请他先讲好处。

马斯克给的第一条是消除苦役。

把那些在脑力上极其无聊、毫无意思的任务干掉。(马斯克)

这个说法比"提高生产力"要具体。他盯的是人被困在无意义事情上这件事本身,效率指标排在后面。

第二条更值得期待:解决目前超出人类智能的问题。

他举了几个例子。治愈癌症。应对衰老相关的疾病,阿尔茨海默这一类。这些问题的共同点是,人类已经用最聪明的脑袋啃了几十年,进展有限。它们的难点可能出在认知带宽上,我们的脑子就是不够用,跟努力程度关系不大。

你把那些目前对人类智能完全无解的题丢进去,如果有一个聪明得多的东西,它有可能把这些题解出来。(马斯克)

这个论证的结构很简单:有些问题的难度超出了人类智能的上限,所以要解开它,就得有个上限更高的东西。你可以不同意这个前提,但你得承认它逻辑上成立。

AI 坏的一面:有些结局回不来

转到负面的时候,马斯克说了一句方法论层面的话。

最好的做法是提前准备,试着阻止坏情况发生,而不是等它发生了再被动应对。(马斯克)

这话听起来像老生常谈,但他马上给出了为什么这次不能套用常规逻辑的理由。

他说,负面结果的范围里,有一些相当严重。严重到什么程度?我们不清楚自己能不能从其中某些结局里恢复过来。他甚至说得很直接:完全可以构造出人类文明无法恢复的场景。

这一段是整场对话里最重的部分。

平时我们处理风险,习惯的是"出事再修"。软件有 bug 就打补丁,产品出问题就发公告,市场崩了就救市。这套反应式做法能成立,前提是出事之后你还活着,还有机会修。

马斯克指出的是,AI 风险有可能不满足这个前提。

所以他的结论是:

当风险严重到这个程度,你就应该主动,而不是被动。(马斯克)

这里藏着一个不对称。预防的成本是确定的、有限的,无非是投入一些研究经费、一些人力、一些监管上的麻烦。失败的代价是不确定的,最坏情况可能没有上限。面对这种不对称,理性的做法是把资源往前压,别往后拖。

他也没说自己知道该怎么办。整场对话里他一次都没提出具体的治理方案。他只是反复强调一件事:这个问题的性质要求我们提前动手,仅此而已。

1000 万美元,他说这个数不够

泰格马克最后问他为什么捐这么大一笔,1000 万美元足以支撑海量研究。

马斯克的回答把问题顶了回去。

我不觉得 1000 万美元对这个领域算大钱。它应该更高。应该有远多于此的资金,从多个方向投入到 AI 安全上。(马斯克)

这句话放在 2015 年听起来有点夸张。那一年,全球专门研究 AI 安全的钱大概只有几千万美元量级,做这行的学者两只手数得过来。他自己掏的 1000 万,占了相当比例。

他仍然说不够。原因很清楚:如果这件事的最坏结果没有上限,那么投入的上限就不该由"这个领域现在有多少人在做"来决定,得由风险本身多大来决定。

泰格马克最后道谢,说期待一起做出好东西。

这场十年前的对谈,现在读起来像什么

2015 年,AlphaGo 还没赢李世石。深度学习刚火两年。大部分人讨论 AI 的时候,聊的还是它会不会抢走工作。

马斯克在那场对话里说的东西,今天几乎全部成了主流议题:AI 可能导致人类文明无法恢复的结局,预防优于补救,安全研究投入严重不足,基因技术需要谨慎。十年过去,这些话从"危言耸听"变成了政策文件里的常规表述。

这场对话真正值钱的地方,在于他处理长期问题的整套方法,跟他对 AI 的那些具体判断关系不大。

他先确定一个很远的目标:让意识延续下去。然后倒推出现在该做什么:多行星、可持续能源、互联网、AI 安全。然后看哪一段没人做,自己下场。中间被人嘲笑、被朋友剪爆炸视频、被无数次念同一个段子,他的反应是提前把包袱说出来,然后继续干。

这套方法里没有英雄主义,也没有热血。他自己用的词是"长期优化",听着像财务术语。

但它好使。

可以立刻用起来的几件事

  • 给自己手上正在做的事算两个数。一个是成功率和成功后的收益,另一个是失败之后你能不能站起来。第一个数决定值不值得做,第二个数决定你能押多大。多数人只算第一个,然后在第二个数上翻车。
  • 把"总得有人做"当成筛选标准,替掉"别人已经在做了"。判断一件事要不要投入,问两句就够:现在有没有人认真在做?我能不能在那个缺口上帮上忙?两个答案凑成"没有"和"能",就别再等。
  • 评估新技术的时候,先问一句:这个东西出错了,能不能收回来。能收回来的,允许试错,跑快点;收不回来的,无论收益多诱人,先把防线修好。这个分类比任何风险评估表格都实用。
  • 对"这不可能"的反馈,听完,记下来,然后自己重新算一遍概率。马斯克听完所有人的劝阻还是去造了火箭,因为他算出来的数字虽然难看,但没到零。别人的判断可以当输入,别直接当结论。
  • 如果你在做技术选型或者团队决策,给"无聊但重要的安全投入"留一个固定预算。现在就划出来,别等项目出了问题再拨款。理由是这类投入的收益永远看不见,看不见的东西在预算会上永远第一个被砍。
  • 把 AI 安全当成一个需要持续跟踪的公共议题,别只当成公司内部的合规事项。翻一翻未来生命研究所 2015 年之后发布的公开文件和公开信,看看十年间哪些担忧被证实了、哪些被证伪了。这比读二手转述更能校准自己的判断。
YouTube 平台字幕(自动或人工),可能有识别错误,人名与数字请以视频为准。已按语句合并成段落,并去掉 um、uh 等口头填充词。 文稿来源:YouTube(自动/人工字幕)。

0:00So Elon, you are really quite unique, I feel, in being so interested in the long-term future of humanity. Well, I don't think I'm that unique. you have an institute. clearly you're interested in that, too. Quite awful. I'm curious your interest in the far future humanity. When did that begin?

0:20How did that start? Well, I think it was when I my my interest in the future of humanity is I guess as a function of reading a lot of sci-fi and philosophy as a kid and and then and and just sort of thinking about okay what's what's important to do like why why do anything what's the meaning of life and you know I came to the conclusion that what we really need to do is

0:54make sure that life continues into the future. and particularly conscious life and and in doing so we'll better we'll be better able to understand the nature of the universe and and and achieve greater enlightenment. One thing I really admire about you is you don't just talk about the future of humanity, you actually start companies and do things about it. So, what made you so audacious?

1:24Well, I I don't really think of these things as all audacious. they seem like natural things to do. you know, it's it's sort of more of a long-term optimization rather than a short-term one. and yeah, I just not that I think you know everyone should be doing these things but someone needs to do them. so so you know so

1:56if I see that well somebody is not doing this and maybe I could be helpful then then then I try to do something in that regard. Weren't there some people along the way though who told you that ah that's crazy to start a space company or a new electric car company or another solar company? Sure. I mean there are lots of people that said that the likelihood of failure was extremely high. and that it was a stupid thing to do. and when I started SpaceX

2:26one of my closest friends got a compilation of rocket failures and made me watch the whole thing. and and there were lots of people that tried to talk me out of it. and the joke was, you know, how do you how do you make a small fortune in the rocket business or you start with a large one?

2:47and I got told that joke so many times that that obviously I knew the punch line, you know, so I just tell them the punch line and they would look at me like, is he serious or or it's like like say why did you start a rock company and like I was trying to figure out the fastest way to turn a large portion into a small one.

3:08That seemed like a good way to go. but but the thing is like I already thought the probability of failure was was high that and that you know that the likelihood of success was therefore low. and so this was not new information. I I thought maybe SpaceX had I don't know 10 or 20% chance of success and Tesla probably similar. I thought I thought Solo City had a much higher chance of success. but probably still only, you know, I don't know, 50% or something like that.

3:47but, yeah, I mean, for for the longest time, and SpaceX and Tesla almost didn't survive. I mean, came very close to perishing as companies. in in 2008 and 2009 with the Great Recession, was of extremely close call. looking ahead, what do you think are the technologies that are going to have the greatest impact on society?

4:12So, I think there's there's probably five categories. there's and in no I'm not giving a particular order but making life multilanetary achieving sustainable production and consumption of energy obviously the the internet as a whole I mean the continued growth of the internet the and then potentially if we do this reprogramming human genetics and and the fifth one would be artificial intelligence so you know working on the kind of the first three but not not the last two

4:59you know the last two I think have the greatest potential to be a double-edged sword. So when you call artificial intelligence a double-edged sword can you talk a bit about the positive edge first? What do you see as the greatest benefits we can get from AI? Well, the greatest benefits from AI would probably be in eliminating drudgery. So like in terms of or or tasks that that that are that are mentally boring not not interesting.

5:39there's arguably breakthroughs in areas that are currently beyond human intelligence or at least for now beyond human intelligence. I think we could probably solve them in the long term such as you know the classic sort of curing cancer and addressing diseases of aging, Alzheimer's and all these things. So there's you insert you know various like intractable intractable problems to human intelligence currently what seems to be intractable problems and then if you have something that was way smarter it could solve those problems and turning to negative edge well I think it it's it's best to prepare

6:23for to try to prevent a negative circumstance from occurring than to wait for it to occur. her and then be reactive. So, and this is a case where the potential the range of negative outcomes are some of them are quite severe. so it's not clear whether we'd be able to recover from some of these negative negative outcomes. In fact, some of the certainly you can construct scenarios where recovery of human civilization does not occur.

6:53and when the risk is that severe, it seems like you should be proactive and not reactive. I'm really quite curious why you've decided to make such a large donation because 10 million is something that really enables a massive amount of research. I don't think 10 million is large amount of money for for this subject area. it should probably be higher. but but the you know it there should be probably some much larger amount of money applied to AI safety in in multiple ways. Well, I want to thank you again so much for this. It's something we really really appreciate and are eager to do great stuff

资源与出处

相关视频

同频道、同主题或相邻年份