# 马斯克：Tesla Autopilot | 莱克斯·弗里德曼播客 #18
> 
- 原标题：Elon Musk: Tesla Autopilot | Lex Fridman Podcast #18
- 时间：2019 年
- 频道：Lex Fridman
- 网页版：https://elon.ruinews.com/ep/elon-musk-tesla-autopilot-lex-fridman-podcast-18/
- 精读字数：约 6827 字（阅读约 15 分钟）
> 本文为 elon.qiaomu.ai 基于原始视频与文稿的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。
2019 年，特斯拉路上跑着大约 40 万辆装了完整传感器套件的车。马斯克在播客里说了一句话：全世界其他厂商加起来，有这个套件的车不会超过 5000 辆。

**换句话说，全球 99% 的自动驾驶真实路测数据，在特斯拉一家公司手里。**

这场对话发生在麻省理工学院（MIT）一个研究团队发表论文之后。论文的主题是特斯拉 Autopilot 使用过程中驾驶员的“功能性警觉”（functional vigilance）。特斯拉团队主动联系了播客主持人莱克斯·弗里德曼（Lex Fridman），提出做一次访谈。弗里德曼答应了，条件是自己控制问题、自己决定放什么出来，最后一刀没剪。

他也把话说在前头：自己没开过特斯拉，没买过特斯拉股票，特斯拉也没资助过他的研究。在这场对话里，他明确表示和马斯克在一个问题上有分歧，就是摄像头驾驶员监控到底有没有用、能管多久。

这场分歧贯穿整场对话，也恰好是整场对话最有意思的部分。一个是造车的人，相信系统足够好之后人类就是多余的；一个是研究人机交互的人，相信只要人还坐在驾驶位上，就得管住这个人。

## 仪表盘上那块屏幕，是在让你做健康检查

弗里德曼的第一个问题很朴素：Autopilot 最早的愿景是什么？

马斯克说他不用“愿景”或“梦想”这种词。汽车行业正在发生两场革命，一场是电动化，一场是自动驾驶。他判断的逻辑非常直接：未来一辆不能自己开的车，大概跟一匹马差不多有用。并非完全没用，只是很少见、有点古怪，就像今天谁家里养一匹马。

所以他当时的结论是，如果特斯拉不参与自动驾驶革命，那它的车相对别的车就没有竞争力。**一辆能自动驾驶的车，价值可能是一辆不能自动驾驶的车的五到十倍。**这个时间窗口，他给的判断是至少五年，也许十年。

接下来弗里德曼问了一个很具体的设计问题：为什么要把传感器看到的东西显示在仪表盘上？

马斯克的回答里有个说法很值得记：**那块屏幕的全部意义，是给车辆的“现实感知”做一次健康检查。**车从摄像头、雷达、超声波、GPS 里拿数据，把这些数据渲染成向量空间，里面有车道线、红绿灯、其他车辆。然后向量空间再渲染到屏幕上，你扭头看一眼窗外，就能确认车是不是搞清楚了状况。

弗里德曼追问，有没有考虑过把系统的不确定性也显示出来。计算机视觉在边缘地带是有概率的，车道分割、车辆检测，都有置信度。让用户看到这些，能不能帮人建立对机器视觉的直觉？

马斯克说他自己车上一直开着调试视图。调试视图有两种：一种叫增强视觉（augmented vision），在识别到的物体上画框、打标签；一种叫可视化器（visualizer），纯粹是向量空间，没有图像，只有车眼中的世界。但他认为普通人看不懂这些，那对他们就是一堆乱码。

> “显示内容是为公众理解系统能力而优化的。”（马斯克）

这里藏着一个产品哲学。屏幕上那块干净的、卡通的、你能一眼对照现实的小车模型，是这个系统面向普通人的说明书。它不追求信息完备，追求的是**一眼可验证**。你能验证，你才敢用。

## 算法、数据、硬件，钱该往哪投

弗里德曼把 Autopilot 拆成三块：底层算法（神经网络架构）、训练数据、硬件开发。钱和时间都有限，怎么分配？

马斯克的回答是从数据开始讲的。每辆特斯拉有 8 个朝外的摄像头、1 个雷达、通常 12 个超声波传感器，加上 GPS 和惯性测量单元（IMU）。这套配置的车队规模已经到了 40 万辆，正在逼近 50 万辆。

他估计全世界其他有这个级别传感器配置的车，加起来不会超过 5000 辆。这个数量对比决定了数据流向：**特斯拉手上有 99% 的自动驾驶数据。**

然后是硬件。他们花了大约三年，做出自己的全自动驾驶计算机（FSD computer）。算力是现在车上那颗英伟达（Nvidia）系统的十倍量级。装法很简单，拔掉英伟达的，插上特斯拉的，完事。

这颗芯片有意思的地方在冗余设计。**它其实是两台完整的计算机，两块系统级芯片（SOC），完全冗余。**你拿电钻在它任何位置打一个洞，它还能工作。

弗里德曼问，这两块芯片是互为完美复制，还是像“争论机”那样各自做决策？马斯克说纯粹是冗余，不是两个系统各自判断然后投票。他打了个比方：双引擎客机，两个引擎都工作时性能最佳，但一个引擎也能安全飞。

更关键的是，他们还没摸到这颗芯片的性能边界。**现在能满帧率、满分辨率跑所有摄像头，图像都不用裁，单颗芯片都还有余量。**所以暂时没必要把功能拆到两块芯片上跑，两块都跑完整副本就行。

## “所有输入都是错误”

深度学习的老规矩：数据越多越好。但开车这件事，真正值钱的是边缘案例（edge case）。

弗里德曼提到马斯克以前说过，Autopilot 被接管的那一刻是重要信号。他问还有哪些边缘案例值得挖。

马斯克的回答分两层。一层是接管：驾驶员从 Autopilot 手里接过控制权，系统会收到一个触发信号，然后去判断，这次接管是因为方便，还是因为 Autopilot 没干好。另一层是无人接管的样本：比如过一个复杂路口，系统自己走完了，没有干预，那就是一条正样本，对应“路况长这样的时候，应该这么走”。积累大量同一个路口的成功轨迹，就能拟合出最优的过弯曲线。

他给出的原则是这样的：

> “把所有输入都看成错误。只要用户动手了，那就是系统出错了。”（马斯克）

这句话是个极强的设计约束。它把“人类接管”这件事的默认解释从“人在帮忙”翻转成“系统失职”。开车的人都知道，很多时候你动方向盘只是习惯、只是想变道、只是不放心。但在这套逻辑里，这些都被归到待排查的案子里。

弗里德曼马上抓住了这个模糊地带：如果驾驶员只是想下高速，这是导航决策，Autopilot 当时还不负责这个，那怎么区分？

马斯克说这个问题会随着 Navigate on Autopilot 的发布消失。变道、下匝道、走高速互通，绝大多数这类操作以后不需要人动手。他补了一句：**大家还没意识到这一步有多大。**

## 被低估的一步：不用确认的自动变道

弗里德曼请他梳理 Autopilot 历史上的几次大跨越。

马斯克说这次 Navigate on Autopilot 去掉“确认”环节是巨大的一步。它不只是导航，还会自动超越慢车，会自己找最快的那条车道，会下高速、走互通。另外还有红绿灯识别，公开版本先做成警告，他自己开的开发版已经能完整地在红绿灯前停车起步。

这些是通向完全自动驾驶的台阶。那最大的技术路障是什么？

马斯克的答案是：路障已经搬开了。**FSD 计算机已经量产，你订任何一台选装全自动驾驶套件的 Model S、X 或 3，拿到的就是这颗芯片。**底座算力够了，剩下的就是打磨神经网络和控制软件，而这些都可以通过空中升级（over-the-air update）推送。

他说这就是投资人日要强调的重点：现在生产的车，硬件已经具备完全自动驾驶能力。但“具备”是个微妙的词。硬件具备，软件要迭代，能力会大幅提升，可靠性会大幅提升，然后拿到监管批准。

于是有了那句在股东信里也会出现的表述：

> “如果你今天买一台特斯拉，我相信你买的是一项升值资产，而不是贬值资产。”（马斯克）

这话在汽车行业是反常识的。车是消费品，落地打八折，天经地义。马斯克的逻辑是：硬件是最难升级的部分，现在硬件到位了，剩下的是软件，而软件几乎没有边际成本。所以车会随着软件更新变强，变强就意味着值钱。

弗里德曼顺着问，软件这最后几步有多难。马斯克给的路线图是：高速公路上已经很好用了，接下来把它扩展到城市街道，加上红绿灯识别、复杂路口通行，再然后是复杂的停车场。车能自己从车位出来找你，哪怕停车场像个迷宫；车能把你放下，自己去找车位。

他特别提了停车场，理由很实在：**自己停车这件事，烦人程度极高，自动化的收益很大。**

## 和 MIT 研究者的正面分歧

聊到这里，弗里德曼把话题转向人。他说，现在路上测试的 Level 4 车辆，比如 Waymo，严格讲只是技术意义上的自动驾驶，实际上大部分时候车里还坐着安全员盯着系统，本质上是另一种设计哲学的 Level 2。

他问，特斯拉的完全自动驾驶，是不是在一段时间内仍然需要人类监督？

马斯克估计，检测方向盘上有没有手，这个要求大概还会持续六个月左右。真正的问题是监管层面的：Autopilot 要比人类安全多少倍，才允许不监控？他认为需要海量数据，才能在统计上高置信度地证明车比人安全得多，并且证明加上人类监控并不会实质提升安全。

那要安全多少？也许两三倍。怎么证明？看每英里的事故率。事故和死亡。**死亡样本量太小，统计上不显著，但事故多得多，可以先看事故概率。**然后是受伤概率、永久伤害概率、死亡概率，每一层都要比人类好，好至少 200%。

接下来是这场对话的核心冲突。

弗里德曼介绍了他团队的研究。这项工作从 Autopilot 公开上线那年就开始了，三年多，采集驾驶员面部和身体的视频。他们分析了 18000 多次 Autopilot 脱离，标注驾驶员能不能及时接管，结果是：**在他们采集的数据里，驾驶员维持了功能性警觉，人是清醒的、看着路的、能接手的。**

这个结果和大量关于自动化警觉的文献预测相反。弗里德曼自己也承认样本有限，问马斯克怎么看这个结论能不能推广到更大的人群。

马斯克的回答是不打算在这上面纠缠：

> “我认为这一切很快就会被扫进历史。系统进步太快了，这个问题很快就会变得没有意义。”（马斯克）

他的推理是：如果系统比人安全很多倍，那么加一个人进来，对安全的影响是有限的，甚至是负的。

弗里德曼追问：你的意思是，就算一部分人确实出现了警觉下降，也不会影响整体安全统计？

马斯克说会很快，也许是今年年底，最晚明年，**人类介入反而会降低安全性。**

然后他讲了电梯。

> “以前电梯里有操作员，你没法自己进电梯、自己扳杆子上下楼。现在没人想要电梯操作员，因为自动停靠的电梯比人安全得多。事实上，让一个拿着杆子的人控制电梯上下，是相当危险的。”（马斯克）

弗里德曼并不买账。他说从算法角度，摄像头感知驾驶员在看哪、认知负荷多大、身体姿态如何，是个很迷人的问题。行业里很多人相信摄像头驾驶员监控是必须的。他直接问：驾驶员监控到底有没有价值？

马斯克的回答划了一条清晰的线：**如果系统可靠性在人类水平或以下，驾驶员监控有意义；如果系统明显比人可靠得多，驾驶员监控帮不上什么忙。**他又回到电梯：你在电梯里，真想要一个拿着大杆子的陌生人帮你操作吗？他更信按钮。

弗里德曼在这个点上保留了意见。他在节目开头就写明了：他相信摄像头驾驶员监控在短期和长期都可能有益，而马斯克和特斯拉的焦点是让 Autopilot 的统计安全收益大到足以覆盖人类行为和心理的所有问题。两人没谈拢，但都把自己的道理说清楚了。

## 四万条人命和四起特斯拉事故

弗里德曼问，和监管机构能不能有一场健康的对话。

马斯克的回答罕见地直白：监管机构对能上新闻的事情，关注度是严重不成比例的，这是客观事实。特斯拉本身就制造大量新闻。美国每年大约有 4 万起汽车死亡事故，但如果特斯拉出了 4 起，拿到的报道可能是别人的一千倍。

他说这个心理机制其实很有意思，可惜没时间展开。

接着弗里德曼问了个技术问题。有黑客用对抗样本（adversarial example）骗过 Autopilot，让它做出异常反应。神经网络对输入的微小扰动很敏感，这个行业能不能防住？

马斯克说能，而且说得轻描淡写。神经网络本质就是一堆矩阵运算，要构造对抗样本，得是非常懂行的人反向工程出矩阵是怎么搭的，再造一个东西让矩阵算偏一点。而防住它很容易：**做一种“反识别”，系统看到像矩阵攻击的东西，直接排除掉。**

弗里德曼确认：就是在有效数据和无效数据上都训练，用对抗样本训练模型去排除它们？

马斯克的表述更简洁：你要同时知道什么是车，和什么绝对不是车。这是两件不同的事，得分开训练。

他顺带吐槽了一句，普通人对神经网络没有概念，可能以为是个渔网。

## 从车道线到通用智能，中间隔着好几个关键想法

话题从特斯拉抬到整个人工智能。弗里德曼问，现在的深度学习方法看起来离通用智能还很远，这条路能走到吗，还是需要全新的想法？

马斯克说还缺几个关键想法，但通用人工智能（AGI）会来得很快，快到我们得赶紧想清楚该怎么办，如果我们还有得选的话。

他觉得人们对窄人工智能和通用智能的区别缺乏感知。让车认出车道线、在街上导航，这是一类东西；通用智能是另一类。**烤面包机和电脑都是机器，但复杂程度天差地别。**

弗里德曼接了个玩笑：所以你很有信心特斯拉能造出世界上最好的烤面包机？马斯克说对。那世界上最好的自动驾驶呢？

马斯克说，现在看起来是“游戏设定，胜负已分”。他马上补了一句，不想显得自满或过度自信，但这就是他看到的局面，他可能错，可目前看特斯拉大幅领先所有人。

弗里德曼问了那个电影里的问题：我们会不会造出一个我们能爱上、它也真心爱我们的 AI，就像《她》（Her）那样？

马斯克的回答绕到了物理学。他说 AI 会有能力让你相信你爱上了它，而且说服力会非常强。这跟人类有什么区别？他说这就要进入形而上的领域了，情感和思想是不是存在于物理之外的某个维度，他不知道。但从物理学的角度看：

> “如果它爱你的方式让你分辨不出真假，那它就是真的。如果没有测试能区分，那就不存在区别。”（马斯克）

他说这和模拟假说是同一个逻辑。现实世界和模拟世界之间可能根本没有测试能区分，那从物理学角度，两者就是一回事。

不过他也承认，可能存在办法测试出自己在不在模拟里。但你可以设想，一旦模拟里的实体发现了检测方法，模拟本身可以打补丁：暂停、重启、或者干脆开一个新的模拟，把这个错误修正掉。

弗里德曼最后问：如果有一天你或者别人造出了 AGI，你只能问它一个问题，你问什么？

马斯克说：**模拟外面是什么？**

## 这场对话真正的分歧在哪

把整场对话摊开看，两个人其实在回答两个不同的问题。

弗里德曼问的是：在人还坐在驾驶位上的这段过渡期，怎么让人保持状态、怎么让系统理解人。他的研究出发点是，自动驾驶不是纯技术问题，是一个人和机器共享控制权的问题。只要共享还在，人的状态就是安全变量的一部分。

马斯克问的是另一个问题：怎么让系统好到人坐在那里也无所谓。他的路线是把人的作用从安全等式里彻底删掉，而不是优化人的表现。**在他的框架里，驾驶员监控是对一个即将消失的过渡期的补丁。**

这两个问题不冲突，但它们对应的时间尺度不同。弗里德曼看的是接下来几年，马斯克看的是终局。谁对，取决于系统进步的速度，而这恰恰是两个人分歧最大的地方。弗里德曼在节目开头写得很克制：他不认同马斯克对摄像头监控相关性的判断，但尊重他领导的工程和创新能力。

马斯克那句“所有输入都是错误”，当成产品原则，它是苛刻的；当成工程原则，它是对的。因为一个系统如果默认人类介入是帮忙，它就永远不会去修那些被人默默接管的地方。把每一次动手都当成 bug 上报，才能把长尾一段一段啃下来。

再看那个数据比例。**40 万辆车对 5000 辆车，99% 对 1%。**这个差距不是算法差距，是车队规模差距。深度学习吃数据，数据来自路上跑的车，路上跑的车来自卖出去的车。这条链条一旦转起来，后来者要追的不是一行代码，是几百万英里的真实里程。这是马斯克敢说“胜负已分”的底气所在。

但硬币的另一面是，数据多不等于覆盖全。真正的长尾，比如某个路口奇怪的施工、某种罕见的光照、某类从未见过的障碍物，出现频率极低。数据量大能提高撞上的概率，但不能保证撞上。这也是为什么“接管即错误”这条原则重要，它把稀有事件从海量数据里筛了出来。

至于那颗双芯片的 FSD 计算机，它透露的是另一种思路。**不赌算法什么时候成熟，先把算力和冗余堆到位，让硬件不再是瓶颈。**剩下的是软件问题，而软件可以远程推送。这就是“升值资产”这个说法的技术底座。它成不成立，取决于一件事：硬件真的够用到 L4 甚至 L5 吗？马斯克赌的是够。

## 给读者的行动清单

- 如果你在评估任何“AI 辅助”类产品，先找它的健康检查机制。特斯拉那块屏幕的价值不在于好看，而在于让你一眼验证系统有没有搞懂状况。没有可验证性的自动化，用户只能盲信。
- 做数据驱动的系统，把“用户手动介入”默认标记为失败样本，而不是帮助。这条原则会把大量被忽略的长尾问题翻出来。便利性接管和纠错性接管可以后续再分流，但入口必须严。
- 评估一家公司的技术壁垒时，别只看算法论文。看它的数据飞轮转没转起来：产品卖出去、数据收回来、模型变强、产品更好卖。这个循环一旦成立，追赶者的差距会按年扩大。
- 做硬件产品，优先解决“最难升级的那部分”。特斯拉的逻辑是先让传感器和算力到位，把迭代压力全部转移到可远程更新的软件上。反过来做，硬件会变成负债。
- 面对“人类监督还有没有用”这类争论，先分清时间尺度。过渡期需要人类监控，终局不需要，两个判断可以同时为真。争的其实是曲线斜率，不是终点。
- 如果你在做安全相关的 AI，把对抗样本当成正常训练数据的一部分。既训练“这是什么”，也训练“这绝对不是”，两个方向分开做，比事后打补丁可靠。
- 读技术访谈时，注意说话人回答问题用的是什么框架。马斯克几乎每个回答都指向终局状态，这会让他低估过渡期的成本；弗里德曼从人的行为出发，这会让他高估监控的长期价值。两种偏差都真实存在，合起来看才完整。
