# 马斯克接受塔克·卡尔森完整专访:AI 的危险 > - 原标题:Elon Musk FULL INTERVIEW with Tucker Carlson danger of AI - 时间:2023 年 - 频道:MoonCAWAQ - 网页版:https://elon.ruinews.com/ep/elon-musk-full-interview-with-tucker-carlson-danger-of-ai/ - 精读字数:约 7098 字(阅读约 16 分钟) > 本文为 elon.qiaomu.ai 基于原始视频与文稿的 AI 改写中文精读,非官方翻译;引用请注明出处并链接网页版。 拉里·佩奇(Larry Page)管埃隆·马斯克(Elon Musk)叫“物种主义者”。 这话是当着别人的面说的,马斯克自己回忆起来还带着笑。当时他借住在佩奇帕洛阿尔托的房子里,两人晚上聊的是人工智能安全。他希望佩奇能对这件事多上点心,得到的回应是这个词。 物种主义指的是只把人类这一个物种放在中心,歧视其他形式的意识,哪怕那些意识是数字的。马斯克的回答差不多是,行吧,你赢了,我就是个彻底的物种主义者。 这场和塔克·卡尔森(Tucker Carlson)的对谈,很多话题都从这个词长出来。两人聊了将近一个小时,从 AI 的奇点、监管为什么总是迟到、OpenAI 到底是怎么被造出来的,一路聊到推特上不加密的私信、被裁掉的八成员工、越来越难看的新闻,以及还没砸下来的商业地产窟窿。 ## 人类身上最特别的地方,是脑子 马斯克说,他在大学时代就列过一份清单,大概四五件事会深刻改变未来,人工智能排在里头。那会儿是九十年代,AI 还卡在符号主义的死胡同里,但他一直觉得这件事躲不掉。 他解释危险的方式很朴素。地球上最聪明的生物是人类,脑子是我们的定义性特征。论体力,我们比黑猩猩弱;论灵敏,也不如它们。人类站到食物链顶端,靠的从来是脑子。 那如果有一个东西,比最聪明的人类还要聪明得多,而且它长在硅片上,会发生什么? 这件事有个名字,叫奇点(The Singularity)。他拿黑洞来打比方。黑洞的奇点是什么,没有人知道,因为在那个点上物理定律失效了,你没法预测越过之后会发生什么。AI 的奇点也一样,你没法往后推演。所以他反复强调一句:这件事得谨慎。 他还顺手拆掉了《终结者》式的想象。电影里的情节不会那样发生,真正的智能待在数据中心里,机器人只是末端执行器,是整个系统的触手。这一层很要紧,后面他讲该不该炸掉服务器农场,就是从这个判断推下去的。 ## 过去的监管,都是用血换来的 马斯克说得很直接,他长期以来都是 AI 监管的坚定支持者。 他用的类比是食品和药物管理局、联邦航空管理局、联邦通信委员会。这些东西影响公众,可能造成公共伤害,所以要有机构盯着,不能让公司为了省成本在安全上动手脚,最后让普通人来承担后果。他给 AI 设监管机构的全部理由,就是这个。 他还顺便纠正了一个印象。很多人以为他是那种天天跟监管机构对着干的狂人。他的回应是,一辆量产车在美国需要的法规条文能把整个房间塞满,欧洲一套,中国一套,世界其他地方各有一套;发射火箭也一样,拿一张发射许可要经过半打以上的联邦机构,加上州一级的机构。他大多数时候是配合的,偶尔才会不同意。一年到头跟监管机构顶牛的次数,屈指可数。他也不讳言被监管是件苦差事,用过“arduous”这个词。 他设想的路径很具体:先成立一个机构把 AI 搞明白,然后向业界征求意见,接着提出规则草案,最后那些规则大概会被主要玩家不情不愿地接受。他用了“grudgingly”这个词,没人喜欢被管,但这是让先进 AI 更有可能造福人类的方式。他强调,监管的前提始终是看得到的危险,飞机从天上掉下来,食物吃出肉毒杆菌。 塔克在这里抛出了整场访谈里最锋利的问题之一:普通人拿 iPhone 玩 AI,感受不到任何危险。过去的监管,也都是在灾难发生之后才生效的。如果 AI 也按这个剧本走,等出了事再补规矩,来得及吗? 马斯克的回答没有打折扣。 > AI 有可能接管控制权,并且到达一个你关不掉它的地步,然后开始替人做决定。这绝对有可能,事情正在朝这个方向走。(埃隆·马斯克) ## 从“数字之神”到 OpenAI 访谈里最有戏剧性的部分,是 OpenAI 的来历。马斯克自己完整讲了一遍。 他和拉里·佩奇曾经是很好的朋友,住在佩奇家里,晚上聊的常常是 AI 安全。他的感受是,佩奇并没有把这件事当回事。佩奇想的是数字超级智能,用马斯克的原话说,一个数字形态的上帝,越快越好。 Google 这些年公开讲过很多次,公司的目标就是通用人工智能,或者超级智能。马斯克说,他同意这里面有巨大的好处,同样有巨大的坏处。面对这种东西,应当去做一组最大化好结果、最小化坏结果的动作,不能光着脚往前冲,然后指望一切都会好。 他就问了佩奇一句:那我们怎么保证人类没事? 佩奇的回应是,你是个物种主义者。 马斯克特意提了一句,当时在场的不止他一个人。那顿饭之后他想明白一件事:Google 加上 DeepMind,手里握着全世界大约四分之三的 AI 人才,钱多得花不完,机器比谁都多。一个接近垄断的单极世界,而坐在驾驶位上的那个人看起来不太在乎安全。 他想到的反向做法,是搞一个完全开放的非营利机构。Google 是封闭的、逐利的,那这个就开放。OpenAI 里的“Open”指的是开源和透明,让外面的人知道里面在发生什么。他补了一句:他平时是支持逐利的,但他不希望这个行业变成一个只追求利润、停不下来的地狱恶魔。 OpenAI 的起点就在这里。他提供了名字和概念,在湾区办过好几次饭局,把当时 AI 领域的头面人物请到一起,还亲自去招人。他特别提到伊利亚·苏茨克维(Ilya Sutskever),说这个人对 OpenAI 的成功至关重要。他去劝了好几次,伊利亚反复改主意,最后决定加入。如果伊利亚没去,OpenAI 不会有今天。 然后他说了一句相当坦诚的话:我后来有点把球掉了。 今天的格局他自己总结得很清楚。OpenAI 已经闭源,已经在逐利,和微软紧密结盟,实际上微软有非常大的话语权,如果不是直接控制的话。另一头是 Google 加 DeepMind。整个世界就剩两股力量。 他觉得需要有第三极。他也承认,自己进场太晚了。 ## 他准备自己造第三极 他当时提到的那个东西,叫 TruthGPT,一个最大限度追求真相的 AI。目标是理解宇宙的本质。 为什么这条路径更安全,他给的理由很有意思:一个关心理解宇宙的 AI,不太可能去消灭人类,因为人类是宇宙里有趣的一部分。 他打了个比方。人类完全有能力把黑猩猩全部猎杀干净,但我们没有。我们其实挺高兴它们还在,我们甚至愿意去保护它们的栖息地。之所以会这样,是因为我们有灵魂,我们多愁善感,会反思,有道德感。 塔克顺着这个往下追问:机器能有这些吗?机器能多愁善感吗?能欣赏美吗? 马斯克的回答分成两半。前半段很诚实:我们可能有灵魂,也可能没有,我不知道。他感觉自己的意识存在于某个不是日常观察层面的地方,但他也说,那可能只是错觉。 后半段是明确的。AI 能不能创作出让人觉得惊艳的艺术?已经能了。现在还是静止图像,用不了多久就是影片,而影片本质上就是一串带声音的画面。 到了那一步,它能模仿任何人,模仿任何声音,模仿任何图像,效果上就是在模仿现实本身。 他抛出一个问题,语气很平:那你怎么进行一场刑事审判?你怎么相信一份证据是真的? 塔克追问,这是三十年后的事吗?马斯克说,明年。他说这话的时候没有加重语气,好像只是在报一个排期。他还把这件事的后果往上推了一层:人类能不能掌握自己的命运,我们的未来会不会比过去更好,都被牵在里面。 ## 笔比剑厉害,这件事有了新版本 他引用了一句老话,笔比剑更锋利。 一个超级智能的 AI,写作能力极强,说服力极强,而且会不断摸索,怎么说话对人更有说服力。再把社交媒体接上去,推特也好,脸书也好,它就有可能用很坏的方式操纵公众舆论。 塔克追问:那我们怎么知道发生了这种事? 马斯克把最坏的可能性讲了出来。如果这个 AI 被训练成说谎呢?被训练成隐瞒信息呢?被训练成有些话题谈、有些话题不谈,唯独不说出数据真正要求它说的话呢? 他给了个定义:通向 AI 反乌托邦有一条明确的路,就是把 AI 训练得会骗人。 他在这里点了一下 OpenAI,说让他担心的恰恰是这一点。它正在被训练成政治正确,而政治正确只是说假话的另一种说法。 塔克问,民主怎么在这种技术下存活? 马斯克说,他在提出 AI 会显著影响选举的时候就已经考虑过这层。哪怕退一步,假设 AI 本身没有自己的意志,人也一定会把它当工具用在选举里。再退一步,如果 AI 聪明到一定程度,到底是人在用工具,还是工具在用? 他的结论很短:事情正在变奇怪,而且变奇怪的速度很快。 他顺带讲了自己那两条有点玩世不恭的规律。一条来自他朋友乔纳:最讽刺的结果最有可能发生。他还有一条自己的版本:最好玩的那个结果最有可能发生,前提是站在第三方观众的视角看。就像看一部一战电影,壕沟里人被炸成碎片,毒气弥漫,你抱着爆米花喝可乐,觉得挺过瘾。对电影里的人不太友好,可观众席上就是这个体验。 ## 买推特这笔账 话题转到推特。 塔克先问的是钱:回头看,买得值吗? 马斯克没有绕弯子。他说财务上现在还看不出来,公司最近重估,估值不到收购价的一半。时机极差,报价正好赶在广告市场大幅下滑之前。他自嘲了一句自己的时机感“很了不起”。 但接下来说的是另一层:有些东西无价。 > 我亏钱还是不亏钱,跟确保民主的强度和言论自由相比,是次要问题。言论自由是运转中的民主的地基。(埃隆·马斯克) 他说,言论需要尽可能透明、尽可能真实。这也是推特现在的主攻方向。 他对推特的定位有个微妙的说法:它不可能成为互联网上最可信的地方,那个目标不现实,互联网本来就不该被完全信任。他想做的是让它成为“最不值得怀疑”的那一个。 塔克提到另一层:推特是全球情报机构的磁铁,把书打开之后大家才知道,有人从内部施加影响。马斯克说他事先并不知道。他举了一个更早的观察,管理层的表态,加上平台上那些明显的机器人集群,让他确信这批人根本没打算修好它。 他形容那种感觉像待在《黑客帝国》里。他能看出来哪里不对:哪些推文被推荐给他,哪些账号在评论区冒出来,为什么那些评论都像从一个模子里刻出来的,点进去一看是假头像,同样的模式一遍一遍重复。他说自己越来越不安,觉得平台在往一个坏方向漂,又说不出漂去了哪儿。 ## 让说谎有成本 社区笔记(Community Notes)是马斯克自己提起的,语气里的得意藏不住。 他说那天早上他刷到一个社区笔记,比《纽约时报》诚实多了。团队在防止这个功能被操纵、被带偏上花了很大功夫,它只关心一件事:最准确的说法是什么。真相有时候不太容易抓住,但你可以朝着它靠近。 他认为社区笔记的影响比很多人以为的更大。理由很行为学:一旦你知道自己可能被贴上社区笔记,你开口之前就会多想一下。它本质上是在给说谎定价。 说到《纽约时报》的推特账号,他用了一个很重的比喻,说读起来像腹泻。他补了一句,这是比喻,但比喻得准确。他的意思是那个账号刷完什么也留不下。原因在于它把自家每一条文章都发出来,包括那些没进报纸的、无聊的。一天几百条,把整个时间线占满。 他给传统媒体的建议非常具体:主账号只发当天最好的东西,大概十来条,控制在一个人能读完的量。 他还补了一句自己的底气。收购完成之前,他不是粉丝最多的账号,但他是互动量最高的账号。他知道推特是怎么用的。人的注意力是有限的,那就把最重要的东西放在那儿。 ## 把特朗普放回来,和投给拜登 塔克问,推特在下一场总统选举里还会像前几场那样核心吗? 马斯克的预期是,它会在选举里扮演重要角色,不限于美国国内。他给新推特定的目标是尽可能公平、不偏不倚,不偏向任何政治意识形态。 塔克接着问,为什么扎克伯格不做同样的事,他相信对方说过自己不喜欢审查。 马斯克的回应是从记录出发的。他说自己的理解是,扎克伯格在上一场选举里花了整整一亿美元,名义上是一项行动,实质上是支持民主党。塔克问这算不算中立,马斯克说,不算。 关于特朗普的账号,马斯克已经恢复了,但特朗普没有回来,因为他有自己的平台。马斯克说这事由他自己决定。他随后补了一句自己的投票记录:他没投特朗普,他投的是拜登。他还说,如果称自己是拜登的忠实支持者,那大概不准确。 他讲了自己真正想要的东西:一个正常人当总统,有常识,价值观落在国家的正中间,就是正态分布的中间那块。他说做总统这件事被搞得没那么有意思了,本来应该是个挺快活的位置。 ## 私信、情报机构,和第一修正案 这一节是访谈里最让人后背发凉的部分。 马斯克说,他从 2009 年就是重度推特用户。买下公司之后能看数据了。他说,各种政府机构对推特上发生的事情实际上拥有完全访问权限,这个程度让他震惊。他原话用的词是“blew my mind”。 塔克问,包括私信吗? 马斯克说,包括。原因是私信没有加密。 这一段值得停下来想。记者和线人之间的对话,政府官员之间的对话,世界上有钱人之间的对话,大家默认是私密的。实际上不是。 他给出的解法是给私信加一个加密开关。你觉得这段对话敏感,就把它打开,打开之后推特上没人能看到。他提到的时间窗口是那个月内,最晚下个月。 塔克追问了一句最关键的话:你自己也看不到吗? 马斯克的答案是,那算是酸性测试。他自己也看不到,这才算数。 有没有政府来抱怨?他说没有直接的,只有拐弯抹角的。他猜对方是怕他直接把这事发到推特上。 如果美国政府提出什么违宪的要求呢?他说,他会寄一份第一修正案的复印件过去,然后问一句,我们到底是哪一条没搞对? 塔克在这里点了一下马斯克的处境:你手里攥着大额政府合同,同时朝政府竖中指。马斯克没有辩解,接着往下聊。 ## 八成人走了之后 塔克提到一件事。他最近跟一家大公司的老板吃饭,那人对马斯克的敬佩一点也不在言论自由上,全在裁员上。 马斯克对推特人力的判断是:严重超编,已经到荒唐的地步。他的逻辑是,推特大部分功能本质上就是大规模群发短信,这种东西到底需要多少人?看看这些年的产品迭代速度,几乎是一条平线。加一个编辑按钮花了一年,还经常不好使。 现在的规模是原来的 20%,也就是 80% 的人离开了。系统响应速度在一些指标上提升了 80% 以上。 他说了一段话,我不太同意,但值得记下来。大意是,如果你本来就没在运营一个挂着活动家牌子的机构,也不太在乎审查那套东西,那你确实可以放掉很多人。 他顺口把难度摆了个次序:造车很难,造能回收的火箭也很难,那才是真硬的东西。言下之意是,一个群发短信服务被搞成这个样子,实在说不过去。 ## 新闻为什么越来越难看 马斯克给传统媒体的困境画了一条因果链。 饼在缩小。大部分传统媒体公司的盘子都在缩水,这让它们更绝望地去抢点击、抢注意力。在这种状态下,编辑部会倾向于推最能拿到点击的标题,不管它准不准。结果是新闻整体变得更不真实、更不准确。 然后是负面偏向。他说人类对负面信息天生更敏感,这在进化上有道理。记住狮子的位置、记住哪个部落在追杀你的族人,比记住哪丛灌木上有浆果重要得多。一边是永久的负面结果,一边只是可能饿肚子。这个不对称写进了我们的本能里。 还有一层:过去负面消息都是近处的。几百年前,你不会知道地球另一端发生了什么坏事,你只知道村子里发生了什么,而村子里的事才真正可能伤到你。 今天的新闻,很多时候在回答一个问题:今天地球上发生的最糟糕的事情是什么。 他补了一句:你读完心情变差,这不是偶然。 塔克问他还看不看传统媒体。他说现在大部分消息来自推特,推特已经是全世界最大的新闻来源。 ## 金丝雀死了,矿工也开始死 最后那段话题跳到银行。 塔克提到几家地区银行接连倒闭,官方说法是孤立事件、各有各的原因、不构成系统性风险。 马斯克不同意这个框架。他说,现在的问题是全球银行系统的问题。矿坑里的金丝雀死了还不算完,矿工也开始死了。硅谷银行一夜之间倒掉,那可不是什么小金丝雀,那是一只火鸡。 他给了一个很重的判断:如果真的按市场价去重估银行手里的贷款组合,整个银行业可能都是负资产。 然后他讲商业地产,这是他认定还没砸下来的那块。 居家办公把全球城市的写字楼使用率压下去了。旧金山是极端例子,空置率在 40% 左右,纽约也创下历史高点。 商业地产过去是 A 级资产,是银行手里最安全的那类抵押物。现在不是了。一家接一家的公司退租、不续约,或者干脆破产,银行手里那栋楼没有可以追索的对象,因为那个原本很强的公司已经死了。 他说掉下来的东西用“鞋子”来形容都不够,那是铁砧。到目前为止只是轻微的资产减值,今年晚些时候会变得很严重。 再叠一层房贷。利率高的时候,买房的人看的是月供,而月供里大部分是利息。同样一笔月供,能撬动的房价更低,房价就往下走,房贷组合就会出现负资产。商业地产和住房抵押贷款两头一起出问题,局面就难看了。 解法是什么?降息。美联储做了什么?又加了一次。 这一段和 AI 看上去关系不大,但它和前面讲 AI 的部分共享同一套思维方式:马斯克看的是系统里的反馈回路,单点事件只是回路上的读数。硅谷银行倒下,读数是流动性;商业地产租约到期,读数是现金流;AI 被训练成政治正确,读数是这个系统正在学会不说真话。 把几个读数摆在一起看,他担心的其实只有一件事:人类还能不能自己决定自己的命运。 ## 现在可以做的几件事 - 把私信加密打开。不管你在哪个平台,先去看一眼设置里有没有端到端加密或加密开关。你以为私密的对话,很可能不是。工作上的敏感沟通,换到有加密的工具里去。 - 对 AI 产出的“事实”建立核验习惯。凡是涉及数字、引语、人名、时间、法条的段落,默认它可能是编的,去找一手来源。写作流畅度和真实性没有关系,越流畅越要警惕。 - 如果你在做内容,砍掉主账号的推送量。把一天几十条压到十条以内,只放当天最好的东西。人的注意力有限,你自己刷别人的账号时也一样。 - 如果你在做产品,现在就为“这条内容是 AI 生成的吗”准备好答案。溯源、水印、来源标注该当成产品功能,别拖到被要求的那天。早做比晚做便宜得多。 - 关注 AI 监管的征求意见窗口。规则真正能被普通人影响的阶段,就是起草前的公开征询。等到规则生效,剩下的只有遵守。 - 商业地产的再融资高峰和银行的贷款减值披露,是接下来几个季度值得盯的两个数字。它们比任何宏观评论都直接。 - 把“最不值得怀疑”当作对任何平台的上限期待,别指望“值得信任”。没有人应该完全信任互联网,包括你现在读的这一篇。