# 马斯克与苏纳克完整访谈
> 
- 原标题：Elon Musk & Rishi Sunak Interview IN FULL
- 时间：2023 年
- 频道：10 Downing Street
- 网页版：https://elon.ruinews.com/ep/elon-musk-rishi-sunak-interview-in-full/
- 精读字数：约 8441 字（阅读约 19 分钟）
> 本文为 elon.qiaomu.ai 基于原始视频与文稿的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。
2023年11月初，AI 安全峰会刚落幕，马斯克和苏纳克坐下来聊了一个小时。这场对谈后来被反复引用，最出圈的是马斯克那句话：**将来会有一个时刻，没有任何工作是非做不可的**。

你可以有工作。如果你想要一份工作，为了个人满足感。但 AI 会把所有事情都干完。

台下有人笑了。苏纳克也笑了。这笑多少带点礼貌成分，因为马斯克紧接着补了一句：**我不知道这话让人舒服还是不舒服**。

## 十年来他一直在重复同一句话

苏纳克开场引用了比尔·盖茨的评价：我们这个时代，没有人在推动科学和创新的边界上做得比马斯克更多。

马斯克的回应很轻：这话好听，从比尔·盖茨嘴里说出来就更不错了。

苏纳克把话题拐了个弯。他说，有意思的是，在 AI 这件事上，马斯克十年来几乎在做相反的事。他一直在说，等一下，我们得想想自己在干什么，我们推的这东西安不安全，也许不该推得这么快、这么狠。

> 我当了一段时间的卡珊德拉（Cassandra，希腊神话里预言灾难却没人信的人）。我跟人说，我们真该担心 AI。他们的反应是：你在说什么？

这个比喻用得挺准。马斯克说，他能提前看到这一天，是因为在技术里泡得太久。GPT-1、GPT-2、GPT-3、GPT-4，整个演进过程他都在旁边看着。

把曲线上的点连起来，假设趋势继续，结论不复杂：**我们会得到远远超过人类智能的人工智能**。

## 转折点为什么是2023年

苏纳克问他，是什么让你觉得今年不一样。

马斯克给了两个理由。第一个是深度伪造（deepfake）到了能以假乱真的程度。有人能实时生成一段视频，让画面里的你说任何话，让你做任何事。他说，这些假视频有时候比真的还像真的。第二个是 ChatGPT，它让普通人第一次亲手摸到了大模型的边界。

马斯克一直盯着技术曲线，这两件事他都不意外。意外的是公众的反应。**他终于不用再解释了**。

他当场谢了苏纳克办这场 AI 安全峰会，说这件事会被历史记住，分量很重。然后他把话说得很平衡：AI 大概率是好事，能带来一个物质极大丰富的未来，商品和服务不再稀缺。但他用了魔法精灵的比喻。

> 如果你有一个能满足所有愿望的魔法精灵，这种故事通常结局不太好。许愿要小心，包括许愿本身。

这个比喻在后面还会出现。马斯克显然很喜欢它，因为它同时装下了乐观和恐惧，还不用选边。

## 政府该当裁判，不该当运动员

峰会当天，参会公司和各国领导人达成了一个共识：模型发布之前，最好由政府来做安全测试。

苏纳克解释了自己的立场。他说，政府的工作是提前说一句：这里有个潜在风险。这个风险不确定会不会发生，但值得防。他的职责是保护国家，而保护国家的前提是先有能力。所以英国建了 AI 安全研究院，先培养人，再拿模型来测。

马斯克认同这个方向，但他给了一个更朴素的理由。

绝大多数软件出问题，不会伤到公众。手机上的 App 崩了，笔记本蓝屏了，算不上灾难。但数字超级智能不一样，它确实会对公众构成风险，这时候政府该出手。

他说自己跟监管机构打了半辈子交道。SpaceX 是航天，特斯拉是交通，星链是通信，全在监管框架里。

> 我同意绝大多数监管。偶尔会不同意一些，但比例不到百分之一。

硅谷有一批人从没跟监管打过交道，他们觉得监管会把创新掐死，会拖慢进度，会很烦。马斯克承认，确实会很烦，这一点他们没说错。但他打了个比方：

**任何一场体育比赛都有裁判，没有人提议办一场没有裁判的比赛。**

政府的位置就是裁判。确保比赛按规矩来，确保公众安全被照顾到。他说自己作为技术从业者，可能对技术过于乐观，所以更清楚乐观要有边界。AI 大概率会是个好东西，但变坏的概率不是零。

## 一年涨五倍，明年至少一个数量级

苏纳克抛出了一个很实际的问题：政府能追得上吗？

DeepMind 的德米斯·哈萨比斯、OpenAI 的山姆·奥特曼，手下都有大量顶尖人才。政府要招人、要建能力，速度够快吗？

> AI 的速度比我见过的任何技术都快，快得多。它的能力每年至少涨五倍，也许十倍。明年肯定还会涨一个数量级。

一个数量级就是十倍。政府的运作节奏跟这个速度不在一个量级上，这是明摆着的事。

马斯克给了一个退一步的方案。哪怕没有硬性监管，哪怕没有执法能力，**仅仅是有洞察力、能把担忧公开讲出来，就已经很有力量**。如果只能做到这一步，也已经很好了。

苏纳克接了一句：希望我们能做得比这更好。

## 中国不来，这场会就白开了

苏纳克提到他邀请中国参会的决定。这个决定不好做，很多人批评他。他的判断是，如果真想谈点严肃的事，就不能把人关在门外。

马斯克接过话头，说了一句在西方政治语境里不太常见的话。

> 我反对 AI 监管时，听到最多的理由是：中国不会做的，所以他们会超过去，把我们甩在后面。但事实上，中国愿意参与 AI 安全。谢谢你邀请他们，我们也应该谢谢中国出席。

他补充说，今年早些时候去中国，跟中国领导人谈的主要话题就是 AI 安全。他告诉对方，这件事值得认真对待，对方也认真对待了。

他给了两个判断。第一，如果没有中国参与，讨论毫无意义。第二，全球 AI 开发的两个领先中心，一个是旧金山湾区，一个是伦敦地区。如果美国、英国和中国在安全上能对齐，事情就好办，因为领导力基本都在这几个地方。

苏纳克补了一个细节。中方在昨天的讨论里很投入，最后签了跟大家一样的公报。

马斯克说，这就对了。**如果缺了谁，事情就解决不了**。

## 开源落后半年，代价是五倍性能

峰会当天有一场关于开源的激烈辩论。杰弗里·辛顿（Geoffrey Hinton）担心开源模型被坏人利用。另一派认为开源是分布式创新的命脉。

苏纳克把这个两难抛给马斯克。

马斯克先给了个时间差：**开源的算法和数据，通常落后闭源六到十二个月**。

听起来不算多。但把增速叠上去，差距就变了。如果能力每年涨五倍，落后一年就是性能差五倍。五倍的差距不小，它意味着开源模型在能力上属于另一个世代。

他说这个局面也许还行。但迟早会到某一天，开源模型也逼近人类水平的智能，甚至越过它。**到那时候就不知道该怎么办了**。

他承认开源有某种不可避免性，然后给出了自己略微偏向开源的理由：**至少你能看见里面在发生什么，闭源你什么都看不见**。

但他马上自己拆了这个理由。

## 一个几亿行的 CSV 文件

马斯克说，即使是开源模型，你也未必真的知道里面在发生什么。

打开文件，你看到的是几十亿个权重和参数，满屏数字。你没法读它，没法从里面读出它接下来会干什么。

他用了很具体的类比：神经网络最后就是一个巨大的逗号分隔值文件（CSV）。我们的数字上帝是一个 CSV 文件。

这跟传统软件完全不同。传统编程是离散逻辑，输入进去，输出可预测，每一行代码你都能读懂它在做什么。神经网络是一堆概率。你只能跑它，测它，看它在不同输入下给出什么反应。

> 它没有确定性，只有概率性。

这个区别正是苏纳克想强调的。传统软件里，改进输入会带来可预期的输出改进。模型迭代之后，没有人确切知道另一端会冒出什么。德米斯会同意这一点，所以才有那个共识：**在训练跑完、模型发布之前介入，先搞清楚这一代到底带来了什么新能力**。

马斯克说，他同意。

## 全民高收入，魔法精灵没有三次许愿限制

苏纳克把话题从技术拉到选民。他说自己做访谈、走街串巷，AI 被问得最多的是工作。我的工作还在吗？我孩子将来还有工作吗？

他给了一个政策制定者的答案。AI 已经在创造岗位，用法更接近副驾驶，替人的成分还不多，人还在，只是干得更好。他引了一份 MIT 几年前的研究：**当下大约 60% 的工作岗位，在四十年前并不存在**。预测很难。所以他的任务是搞好教育，让人在任何职业阶段都能重新培训。

然后他把问题交给马斯克。

> 我们正在见证历史上最具颠覆性的力量。第一次，会出现比最聪明的人还聪明的东西。具体哪一刻不好说，但会有那么一个点，没有工作是必须有人来做的。

他重复了魔法精灵。这次的重点是没有三次许愿的限制，你想要多少愿望就有多少愿望。

接下来是那个词：**全民高收入（Universal High Income）**。他特意把它跟全民基本收入（Universal Basic Income）分开。基本收入只保底，高收入是每个人都能调用这个魔法精灵。

他的意思是，每个人都能问任何问题，能调动任何能力。这在某种意义上是个均衡器，把人和人之间的差距压平。物质层面不会缺，商品和服务的稀缺性会消失，那是一个富足的时代。

他推荐了伊恩·班克斯（Iain Banks）的《文化》系列，说那是对 AI 未来最好的想象，没有之一，所有书都好，不用挑。

## 他自己也得假装相信自己在做的事

苏纳克说了一句挺真诚的话。他相信工作给人意义，给人目的。如果拿走一大块，那股驱动力从哪里来？

马斯克的回答有点自嘲。

> 我得刻意让自己悬置怀疑。我往一个项目里投入大量心血，熬到凌晨三点。然后我想，等等，我为什么要干这个？我大可以等 AI 来做。我这是在无缘无故鞭打自己。

他说自己大概是有点受虐倾向。苏纳克接话：那给德米斯打个电话，让他快点，你就能去度假了。

笑完之后，马斯克给了正经的答案。机器接管那些不舒服、危险、枯燥的工作，其实是好事。做饭有意思，洗碗没那么有意思，但计算机洗碗洗得很开心。

他举了体育的例子。机器跑得比人快，但我们还是办奥运会，还是让人类互相比，看谁是人类里最好的。即使机器更强，人还是能从竞争里找到满足感。这可能是未来的一种模式。

## 每个孩子配一个导师

苏纳克说，AI 带来的机会里，他最兴奋的是教育。

他提到了可汗学院（Khan Academy）的萨尔·可汗今年那场 TED 演讲。一对一辅导和班级授课的效果差距巨大，如果每个孩子都有为自己定制的导师，还跟着自己一起成长，那会是件了不起的事。他说这在自己有生之年够得着。

马斯克同意，而且说得更直接。

> 它会是最好的导师，最有耐心的导师，全天候坐在那儿。教育会因此大受裨益。

但他也点了一个现实问题：模型还在幻觉。**它会用很好的语法、漂亮的要点和一堆假引用，自信地给你一个错误答案**。这个毛病得先治好。他估计会很快。

苏纳克补了一句：疫情期间在家带孩子的父母，听到这个应该会大松一口气。

## AI 可以当朋友

马斯克提了一个听起来有点怪的方向：陪伴。

他的逻辑是这样的。如果一个 AI 有记忆，记得你们之间所有的互动，你还授权它读你所有的东西，那它可能比任何人都了解你，甚至比你自己更了解你。你每天跟它说话，对话层层叠加，你会真的拥有一个很好的朋友。

前提是这个朋友别被关掉。

> 别关掉我的朋友。

他讲了一件私事。他有一个儿子有学习障碍，交朋友有困难。他说，一个 AI 朋友对他会很有帮助。

苏纳克说这个答案他没想到，值得想一想。他补充说，英国已经在用数字化和电话方式提供心理治疗，效果显著。AI 提供这种社会性的支持，是看得见的路。

## 社区笔记：不删帖，只加背景

话题转到 X。苏纳克挑了一个具体的改动：把人工审核换成了社区笔记（Community Notes）。

马斯克的解释从权力结构开始。如果你把审查的权力交给一批人，这批人必然带偏见。而任命这批人的人，实际上控制了信息。

社区笔记的思路是共识驱动。它不删除任何东西，只添加背景。背景可以是“这件事不实，理由如下”。

更重要的有两点。

第一，**全部开源**。软件每一行代码都能看，每条笔记背后的数据都能看，你可以自己独立生成一条笔记。如果发现数据被操纵，你可以指出来，说这里有人在刷系统，然后提改进方案。

第二，也是核心机制：**一条笔记要被展示，必须由历史上意见相左的人共同认可**。

这里用了 AI。系统给每个贡献者在一个参数空间里定位，每个人对应几百个向量。左右二分太粗糙，事情比左右复杂得多。然后做反向关联：找出平时观点对立、但在这条笔记上一致的人。他们一致了，这条笔记才有可信度。

马斯克说效果不错。他没见过一条错误的笔记挂超过几个小时，命中率极高。有人跟他抱怨社区笔记会传播虚假信息，他就让对方发一条例子过来，对方发不出来。

> X 的目标是告知公众、娱乐公众，尽可能准确，尽可能真实。即使有些人不喜欢真相。人并不总是喜欢真相。

他说，真相是有回报的。只要你不打算自欺，说真话就是聪明做法。

## 人形机器人能追你上楼

有人问机器人。要进入富足时代，需要大量机器人，会不会有国家在机器人上领先，取得战略优势。

马斯克先扩大了定义：**任何能被计算机驱动的东西，本质上都是机器人**。特斯拉就是轮子上的机器人，任何联网设备都是 AI 的末端执行器。

他点了几家：波士顿动力做了很多年拿得出手的机器人，现在归现代汽车；英国的戴森做得不错；英国还有 ARM，世界上最好的芯片设计公司之一，特斯拉用了大量 ARM 技术，几乎所有人都在用。德国做工业机器人。他的判断是，能造机器人的国家都不会掉队。

然后他转了方向，讲安全问题。

车不太容易追你。你可以跑上楼梯，躲进楼里，车追不进来。但他提了一部斯蒂芬·金的小说，车被附身那种。

人形机器人不一样。**它能追你到任何地方**。

> 我们应该有某种硬接线的本地急停开关，不能通过互联网更新。任何能通过网络做软件更新的东西，都能被覆盖。

他的方案是：说一个关键词，机器人进入安全状态。一个不需要你靠得太近的关停方式。他担心的是几百万台这种东西散落在世界各地，某天收到一次软件更新，它们就不那么友好了。

苏纳克说，当天的小组讨论里有人提了同一件事，只是用了另一种说法。他们聊了一堆电影，发现一个共同点：**所有这些电影最后都是人找到办法把机器关掉**。所以物理开关这件事，大家想到一块去了。

马斯克说，也许这可以当 AI 的一个测试题：你最喜欢的詹姆斯·卡梅隆电影是哪一部？

## 一美元一年，把机器人挡在门外

一位做 AI 和机器学习公司的创始人提问。ChatGPT 发布三个月后，钓鱼攻击明显变多，语言更自然更难识别。怎么保护企业和消费者，怎么让人信任这项技术？

马斯克的回答很直接：**别那么信任它**。

他说这个问题很棘手。现在连开源模型都能通过验证码。识别图里的红绿灯，AI 做得比人又快又好。当机器通过人类测试的能力超过人类，什么测试才有意义？他没有好答案。

X 在想的办法是收费。一年一美元，或者一天三美分，金额小到几乎不算钱，但**足以让批量注册一百万账号变得极其昂贵**。因为你需要一百万个支付方式，而盗来的信用卡很快就用完了。

他说这个问题明年可能就无解了。机器人不只是注册账号，还会点赞、转发，把某个东西刷得很热门，而实际上它根本不热门。

> 任何不这么做的社交媒体系统，都会被机器人淹没。

苏纳克从政府角度接了一段。他说核心是让人看见风险在被处理。过去两天峰会的意义就在这里：投资安全研究院，培养能做研究的人，搞清楚怎么缓解这些风险，而且要快，要不断迭代。技术可以很强大，但得把人带着一起走。

他提到昨天发布的一份研究，模拟了用 AI 批量生成假账号、渗透进特定社群、投放特定信息的过程。成本低到几乎为零。在社区或城镇这个尺度上，不需要多少假账号就能让人觉得“到处都是”。

马斯克补了一句技术细节：你甚至不用盗用别人的照片，那样还能被追溯。直接生成一张不存在的人脸，写一份不存在的履历，批量生产。

苏纳克说了个冷笑话：唯一的破绽可能是语法太好。

## 教皇的羽绒服和明年的选举

最后一位提问者来自 Adobe，问的是视觉媒体。能不能做加密签名的媒体，标明哪些是 AI 生成的，哪些是相机拍的真实影像，给病毒式传播的内容加一层信任。

马斯克说这个想法不错，应该做。他提到 X 前身推特曾经是相关项目的成员，欢迎回来。

苏纳克在这件事上有切身体会。他自己遇到过被篡改的图片全网扩散，等大家反应过来是假的，伤害已经造成了。

他把时间点摆出来：明年美国、印度、印尼、英国都有大选，还有欧洲议会选举。**全球相当大比例的人口将在明年投票**。这可能是第一波 AI 深度伪造真正成为议题的选举。在意民主完整性的人会觉得这是任务级的问题。

马斯克提了教皇穿羽绒服那张图。他说现在还有人以为那是真的。他的反驳很朴素：七月在罗马穿羽绒服，你想想概率有多大。然后他补了一句，说那件衣服其实挺好看，AI 时尚会成为真事。

## 小苗需要浇水，橡树不需要

有创业者问，英国有全世界最好的大学，也有最好的人才，要成为独角兽的孵化地还缺什么？给马斯克的问题是：在英国做创始人，最顶尖的技术人才仍然不会把它当成显而易见的选择，文化上要改什么？

马斯克的回答从园艺开始。**文化上要庆祝创建新公司这件事**，要有偏向支持小公司的机制，因为小公司才需要被照顾，大公司不需要。一棵小苗要浇水，一棵参天橡树不用。

他给了一个客观评价：伦敦地区和旧金山湾区，是地球上 AI 的两个中心。旧金山大概领先一点，但伦敦非常强，大伦敦加上周边各郡。这是事实判断。

然后他列了基础设施：愿意把房子租给新公司的房东，愿意服务新公司的律所和会计事务所。这些是心态问题，有些已经在变，但根子上还是文化，人们得自己认定这是好事。

苏纳克接着讲政府那头。他的工作是拧螺丝：种子轮有 EIS 税收减免，后期轮次要有养老金改革把资本放出来投成长股。这些都在推进，还没到位。

人才那头，教育要优先数理，他反复讲 more maths。还要吸引全世界最好的人。英国增长最快的公司里，**超过一半有非英国籍创始人**。所以签证制度要开放。

监管那头，要有亲创新的框架。护栏要有，但得留出空间让人试。

他说最难的是文化那部分：怎么把硅谷那种敢扔掉稳定薪水去创业、并且能接受失败的心态移植过来。第一次创业失败，不该是职业生涯的灾难性终结。别人该说的是，你认真试过了，再来一次。

## 失败不该是职业生涯的终点

马斯克接过这个话题，讲了一件很具体的事：股票期权。

创业是高危高回报。绝大多数创业公司会失败，你听到的都是活下来的那些。真实情况是大量工作之后跟着失败。既然风险这么高，回报那一端就必须真实存在，否则算不过来。

在欧洲大部分地方，股票期权的税务处理很麻烦。他不确定英国的具体情况，但猜比欧洲大陆好一些。

苏纳克在这里插了一段很实在的话。他说这几乎是在软性推销税收政策，但他同意。英国的资本利得税率是 20%，比欧洲大陆低，也比加州低。承担风险、把东西做起来的人，应该在终点拿到回报。

股票期权这块，他提到 Index Ventures 每年出的那份各国期权税制报告。他当财政大臣时，英国排第四第五，他说这不行，得往前挪。后来改完，按他的记忆排到了第二。

他的落点是一句价值判断：**人努力了、冒险了，就该能享受高风险带来的高回报**。

## gov.uk 上的一次对话

中间有人问了个接地气的问题：这些宏大叙事，怎么落到奥斯汀或者诺丁汉的普通人身上？

苏纳克先答。他说自己前两天在想，政府现在做的 AI，有哪些真的在改变普通人的生活。想到的是 gov.uk。这个网站在多年前是开创性的，把所有政府信息集中到一个入口，办驾照、办护照、跟政府打任何交道，都在这里。每天有几百万人用。

接下来要在这个平台上部署 AI。他举了个场景：护照丢了，航班五小时后起飞。现在你得走一堆步骤才能搞清楚怎么办。有了 AI，你把这些话说出来，它一步步带你走完。每天几百万人受益，这是他能用这项技术做到的最实际的事。

马斯克从个人角度答。最直接的变化是，你有了一个很聪明的朋友，什么都能问。怎么做一件事，怎么解决一个问题，它都会告诉你。企业会跟进，所以客服会明显变好，这大概是你最先注意到的变化。

然后回到教育。任何一个科目，都有一个极好的导师陪着。这件事差不多已经到了，只差把幻觉治好。

## 80% 好，20% 坏

整场对谈的收尾，马斯克给了一个数字。

> 我们活在最有趣的时代。这件事有 80% 的概率是好的，20% 是坏的。如果我们对坏的那部分保持清醒和谨慎，总体上它会变成我们想要的那个未来，或者说更可取的那个未来。

他说这会是个均衡器。每个人都能拿到商品、服务和教育。结果可能是更多人的幸福。

苏纳克收尾说，政府的工作是让它安全地发生。听完这两天，他更有信心了。

把整场对话拆开看，马斯克的立场其实很一致。他对技术本身乐观，对技术的扩散速度保持警惕。他相信监管该有，但监管得站在裁判的位置，别下场当教练。他不认为开源能自动带来透明，因为一个几亿参数的模型本来就没法读。他相信中国必须在场，否则谈判没有意义。他相信钱这道门槛能挡住机器人，哪怕只是一年一美元。

这些判断没有一条是漂亮的，但每一条都指向同一个问题：当能力以每年五到十倍的速度增长，人类这边的制度、文化和习惯，追得上吗？

他在访谈里没有给答案。他给的是几个具体的把手：物理急停开关、发布前的安全测试、一美元一年的门槛、开源的透明度、社区笔记的交叉共识。都是小东西，但都能抓。

读到这里的从业者，有几件事可以立刻动手：

- 如果你在做产品，把“发布前测试”写进流程。让独立的人在模型上线前跑一遍能力评估，记录它多出了什么能力，别把它做成走过场。
- 如果你在做内容或社区，别只依赖模型判断真假。给内容加来源签名，给用户加一层极低成本的验证门槛，一年一美元这种量级就够挡住批量注册。
- 如果你在做机器人或任何带执行器的硬件，设计一个不依赖网络的本地急停。软件能远程更新的东西，就能被远程覆盖。
- 如果你在教育行业，现在就把 AI 导师做成产品原型。幻觉是当前最大的工程问题，商业模式反而好解决。
- 如果你在创业，把失败的定义改一下。第一次没做成，拿到的是信息，判决还轮不到。这个心态改不过来，其他条件都白搭。
- 如果你在做政策或合规，先建能力再建规则。没有测试能力的监管，只是一份声明。
