# 马斯克完整访谈塔克·卡尔森:外星人、AI、TruthGPT、Twitter、OpenAI > - 原标题:Elon Musk FULL INTERVIEW with Tucker Carlson: Aliens, AI, TruthGPT, Twitter, OpenAI - 时间:2023 年 - 频道:Zeus Finn - 网页版:https://elon.ruinews.com/ep/elon-musk-full-interview-with-tucker-carlson-aliens-ai-truthgpt/ - 精读字数:约 7635 字(阅读约 17 分钟) > 本文为 elon.qiaomu.ai 基于原始视频与文稿的 AI 改写中文精读,非官方翻译;引用请注明出处并链接网页版。 如果有一天,人类发现自己失去了对某个超级 AI 的控制。管理员密码不管用了,命令发出去没有反应,也没法让它慢下来。怎么办? 马斯克给的答案朴素得有点滑稽:拔电源。 > 你不需要炸掉它,切断电力就行。切断连接也可以。(马斯克) 那段对话出自 2023 年他和塔克·卡尔森(Tucker Carlson)的长访谈。听着像科幻片的备用方案,马斯克说得很认真。他甚至建议政府提前准备这种硬件层面的断路器,因为真到那一步,软件手段可能已经失效。 这套说法的前提,是他对 AI 的基本判断:这东西有可能造成文明级别的毁灭。概率也许不高,但绝不是零。 他把 AI 的危险排在飞机失事、汽车质量缺陷之上。单次伤亡数字说明不了问题,量级才说明问题。一次坠机死几百人,一次 AI 失控可能没有幸存者来写调查报告。 卡尔森追问,普通人拿 iPhone 玩玩 AI,感受不到任何危险,能不能具体说说危险在哪。 马斯克绕了个弯,先引用一句老话:笔比剑更有力。 一个超级智能的 AI,能写出极具说服力的文字,能持续摸索什么样的话最能打动人心,再把这些内容投进社交媒体。推特、脸书,随便哪个平台。它可以在不知不觉中操纵舆论。 卡尔森接了一句:它被训练成说谎。 马斯克说,对,通往 AI 反乌托邦有一条路,就是把 AI 训练得会骗人。 然后他讲了自己为什么长期主张监管。理由很实在:AI 对公众有风险,就该有机构盯着。食品药品有 FDA,航空有 FAA,通信有 FCC。这些机构存在的意义,是不让公司在安全上偷工减料,最后让普通人承担后果。 他特意澄清了一件事。外界常把他当成监管叛逆者,仿佛他的日常爱好是跟监管机构对着干。事实相反。汽车行业的监管多到能把一间屋子填满,美国一套,欧洲一套,中国一套,其他地方又是一套。火箭发射要过联邦机构六七道审批,加上州一级的。他说自己被监管的经验多到荒唐,绝大多数时候,他的公司和监管机构意见一致,只有极少数情况会 disagreement。 但他仍然认为 AI 需要监管,而且方式有讲究:先成立一个小组去了解 AI,再向行业征求意见,然后提出规则草案,最后让主要玩家勉强接受。 问题出在时间上。卡尔森点出了那个结构性的困境:几乎所有监管都是灾难之后才落地的。飞机掉下来,食物引起中毒,然后才有规则。AI 如果也照这个剧本走,等灾难发生再补规则,可能已经太晚。 马斯克同意。他说到那个时候,AI 可能已经在控制局面。 卡尔森问,你是说真的?AI 能接管,能到一个你关不掉它的地步,然后替人做决定? 马斯克的回答是:绝对,事情正朝这个方向走。 ## 拉里·佩奇骂他物种歧视者,OpenAI 就是这么来的 他对 AI 的警觉从大学就开始了。当时他判断有四五件事会剧烈改变未来,AI 是其中之一。 推理的起点是人类自己。地球上最聪明的生物是人,聪明是我们的定义性特征。人的体力不如黑猩猩,灵活度也差一截,靠的是脑子。 那么,当一个比最聪明的人还要聪明得多的东西出现在硅基芯片上,会发生什么? 没人知道。这种情况有个名字,叫奇点(Singularity)。它像黑洞中心的那个点,越过那条线之后,物理定律给不出答案。 马斯克由此得出两个结论:对 AI 要谨慎,政府应该介入。 接下来他讲了一段硅谷往事,主角是拉里·佩奇(Larry Page)。 两人曾是密友。马斯克去帕洛阿尔托会住佩奇家,晚上聊 AI 安全。聊得多了,马斯克形成一种感觉:佩奇对 AI 安全不够上心。 佩奇想要的是数字超级智能,用马斯克的话说,一个数字形态的上帝,越快越好。佩奇公开说过很多次,谷歌的目标就是 AGI,通用人工智能,或者叫超级智能。 马斯克不完全反对这个方向,他承认潜力巨大。分歧在配比:一项全新的激进技术出现时,应该尽量提高好结果的概率,压低坏结果的概率,而不是蒙头往前冲,指望运气。 有一次他问佩奇,我们怎么保证人类没事? 佩奇的回应是,骂他“物种歧视者”(speciesist)。 > 他说我是物种歧视者。当时有目击者吗?只有我们俩。(马斯克) 马斯克当时的反应是:行吧,被你抓到了,我就是物种歧视者。 这个称号背后是一整套价值观,后面再展开。先说当时的格局。 谷歌加上深度思维(DeepMind),合起来握着全世界大约四分之三的 AI 人才。钱多得离谱,算力比谁都多。在马斯克眼里,当时的局面是单极的:一家公司接近垄断了人才、资金和机器,掌舵的人看起来不在乎安全。 他的解法是找一个离谷歌最远的组织形态。谷歌是闭源、盈利的,那就做一个开源、非盈利的。 OpenAI 里的 open,指的就是开源和透明。让人们知道发生了什么,而不是让一台利润最大化的机器无休止地运转下去。 他为这件事投入不少。起了名字,在湾区组织了一系列晚宴,把 AI 领域的领军人物请到一起,还帮着招募初始团队。他特别提到伊利亚·苏茨克维(Ilya Sutskever),说这个人是 OpenAI 成功的关键,自己花了很多力气去挖。伊利亚中间反复过几次,最后才决定加入。没有他,OpenAI 不会成功。 然后,马斯克说自己“把眼睛从球上移开了”。 等他再抬头,OpenAI 已经闭源,已经盈利,和微软绑得很紧。他的描述是,微软有很强的话语权,甚至可能直接控制着 OpenAI。加上谷歌深度思维,这个领域剩两个重量级玩家。 所以他判断,世界需要第三个选项。 > 我会创造第三个选项。虽然我在这个游戏里起步非常晚。能不能做成,我不知道,走着看。(马斯克) 他对 OpenAI 现状的评价留了余地:初衷是好的,现在到底在做好事还是做坏事,他说自己看不清楚。看不清楚的其中一个原因,是 OpenAI 被训练得“政治正确”。在他看来,政治正确只是说谎的另一种说法。 ## 一个只想搞懂宇宙的 AI,为什么反而更安全 由此引出 TruthGPT。 名字是他自己说的,一个最大程度求真的 AI,试图理解宇宙的本质。 求真反而更安全,这条逻辑容易被忽略。 马斯克的论证是这样的:一个在乎理解宇宙的 AI,不太可能消灭人类。因为人类是宇宙里有趣的一部分。 他打了个比方。人类完全有能力把黑猩猩全部猎杀,但没有这么做。我们庆幸它们还在,甚至想保护它们的栖息地。 卡尔森在这里插了一句,人类之所以这样,是因为我们有灵魂,有情感,有反思能力,有道德感。 那机器能有这些吗?机器能感受到美吗? 马斯克把话题拉回科学视角。他说自己可能有灵魂,也可能没有,不知道。他感觉自己的意识存在于某个不同于日常观察的层面,但这也可能是幻觉。 至于 AI 能不能欣赏美,他的回答是:它已经能创造美了。 中途(Midjourney)生成的图像,在他看来相当惊艳。 而且这只是静态图片。很快它就能做视频,做短片。视频不过是一串带音频的画面。到那一步,它能模仿任何人、任何声音、任何图像,等于能模仿现实本身。 卡尔森顺着问下去:那刑事审判怎么办?你怎么判断证据是不是真的? 马斯克的回答是,不用等三十年,明年就会发生。 他没有给出解法。但这条线索指向的后果很清楚:当伪造一段视频的成本降到接近零,靠影像和录音建立起来的信任链条会断掉。法庭、新闻、政治,所有依赖“眼见为实”的机构都得重新找地基。 卡尔森接着问,民主怎么办? 一人一票,每个人自由选择,前提是选民基于自己的判断做决定。如果 AI 能大规模影响认知,这个前提就动摇了。 马斯克说,这正是他担心 AI 成为选举重要影响力量的原因。他还补了一层:就算假设 AI 没有自主意图,人也一定会把它当工具用在选举里。再往下推一步,如果 AI 足够聪明,是人在用工具,还是工具在用人? 他给出的判断是:事情正在变奇怪,而且变奇怪的速度很快。 ## 买 Twitter 亏了一半,他说有些东西无价 2022 年他买下推特,理由是言论自由。 卡尔森直接问:回头看,这笔买卖值吗? 马斯克的回答分两层。财务上,目前不划算。公司重新估值,不到收购价的一半。出价时机也糟,正好赶在广告市场暴跌之前。他甚至自嘲:报价至少高了一倍,我的时机感真是惊人。 第二层是:有些东西无价。 > 我亏不亏钱,跟确保民主的强度和言论自由相比,是次要问题。言论自由是一个能运转的民主的基石。(马斯克) 他提到推特上的社区笔记(Community Notes)。卡尔森说那天早上刚看到一个,比《纽约时报》诚实多了。 马斯克说团队花了很多力气,确保社区笔记不被操纵、不带偏向,只关心最准确的说法。真相有时候难以捉摸,但可以努力靠近。 他还指出一个容易被低估的效应:威慑。 一旦人们知道自己可能被社区笔记标注,说话就会更谨慎。这套机制干的事,就是鼓励诚实、抑制欺骗。 访谈里有一段关于《纽约时报》推特账号的对话。马斯克说那个账号的推送像“腹泻”,因为对方把每一篇文章都推出来,包括没进报纸的、无聊的。读者一关注,整个信息流就被淹了。 他的建议是:媒体的主账号一天只发十条左右,只发当天最重要的内容。 他给了一个自己的依据:收购完成之前,他的账号是全系统互动量最高的,粉丝数不是最多。他知道注意力有限,所以要把最重要的东西放在最显眼的位置。 接着话题转向情报机构。 卡尔森提到,马斯克开放内部记录之后,外界才知道有情报机构在推特内部施加影响。 马斯克的回答是:进去之前他不知道。他从 2009 年就是重度用户,长期有一种身处《黑客帝国》的感觉。哪些推被推荐给他,哪些账号在评论区说话,措辞为什么惊人地相似,点进去一看,头像是假的,明显是一群机器人。这种不对劲的感觉越积越多,加上和董事会、管理层的沟通,他确信这帮人没打算修好推特。 真正让他震惊的,是政府机构实际上对推特上发生的一切有完全访问权。 卡尔森追问:包括私信? 马斯克说包括,因为私信没有加密。 他随后讲了正在做的事:给私信加一个加密开关。敏感的对话可以打开加密,打开之后,推特内部任何人都看不到内容。 > 就算拿枪指着我的头,我也说不出来。(马斯克) 卡尔森问,那我也看不到你的私信?马斯克说这就是试金石,本该如此。 有没有政府来抱怨?马斯克说没有直接的,都是间接的。他猜对方不太敢直接找他,怕他发推。 他补了一句:如果美国政府给他一个违宪的要求,他的回复是寄一份第一修正案过去,问一句“我们哪一部分理解错了”。 卡尔森在这里点了一下风险:马斯克捍卫第一修正案的时候,身份并非记者。他手里握着大额政府合同,等于在向政府竖中指。这句话马斯克没有正面回应,访谈往下走了。 关于选举,马斯克说新推特的目标是尽可能公平,不偏向任何意识形态,在国内和国际选举中都会扮演重要角色。 卡尔森问,扎克伯格为什么不做同样的事。马斯克提到一个数字:2020 年大选,扎克伯格花了 4 亿美元,名义上是鼓励投票,实质上是在支持民主党。 特朗普的账号恢复了,但他没回来发推。马斯克说这由他自己决定。他顺便交代了自己的投票:2020 年投了拜登,不是特朗普的支持者,也算不上拜登的粉丝。他更希望上来一个普通人,有常识,价值观落在国家的中位数上,就像正态分布的正中间。他还调侃了一句,当总统大概没什么乐趣,本来应该是个挺开心的事。 ## 砍掉 80% 的人,服务器反而更快了 卡尔森说这是年度最佳商业故事之一:推特裁员。 马斯克给的数字是,员工规模剩下原来的 20%,走了 80%。 卡尔森确认,很多人是自愿走的。马斯克说,80% 是总数。 怎么用两成的人运转? 马斯克的回答带着嘲讽:如果你不打算经营一个“光荣的活动组织”,也不太在乎审查,那么确实可以放掉很多人。 他说推特此前严重超编。这门生意说白了就是个规模化的群聊服务,不需要那么多人。 产品的改进曲线能说明问题。好几年下来,功能改进几乎是一条平线。加一个编辑按钮花了一年,而且大部分时候不好用。 他的反问是:这些人到底在干什么? 访谈里还提到一位大公司老板,说自己是受了马斯克裁员的启发。 效果上,马斯克说系统的响应速度在某些情况下提升了 80% 以上。目标是把推特做成互联网上最可信的地方,或者说得准确一点,最不不可信的地方。他的原话是,不该有人完全信任互联网,但也许可以让推特成为“最不值得怀疑”的那一个。 ## 真正的重型智能只在几个机房里,从太空能看见它的热量 卡尔森提到一种激进主张:干脆把服务器农场炸了,因为这东西一旦跑起来,就没办法减速。 马斯克的回应基于物理。真正的重型智能不会分散在各处,它集中在少数几个数据中心里。你的笔记本跑不动,你的手机也跑不动,得靠十万台强力计算机在一个机房里协同工作。 这种设施藏不住。从太空看热信号,一目了然。 所以备用方案可以很简单:不用炸,断电,或者切断连接。 什么情况下该拉闸?他说不出精确标准。大致是,如果出现了让人担心的东西,软件命令已经停不下来,那就需要硬件层面的开关。 ## “没必要着急,哪里有火” 回到那个词。 卡尔森问,为什么不该以人类为中心?那套想法到底在说什么? 马斯克猜测,佩奇的意思可能是所有意识都应该平等对待,不管它是数字的还是生物的。 马斯克反对。 他的理由很直接:如果数字智能决定限制生物智能,那人类等于亲手给自己造了一个奴隶主。为什么要把事情做成这样? 他还加了一句:没必要着急。急什么?哪里有火? 这句话背后是他对发展速度的一贯态度。技术能力在指数级上升,而安全研究、监管框架、社会共识还是线性爬行。两者之间的缺口,就是风险所在。 他还提到和佩奇的关系。两人几年没说过话,因为佩奇对 OpenAI 的成立很不高兴。OpenAI 确实改变了格局,把单极世界变成了双极,现在 OpenAI 可能还稍稍领先。马斯克说自己和 OpenAI 团队、和山姆·奥特曼聊过,和佩奇没有,因为对方不想理他了。 ## 银行的铁砧还没落地 访谈后半段转向经济。 几家地区银行接连倒闭,官方说法是孤立事件,各有各的原因,不构成系统性风险。 马斯克的判断不一样。他说问题已经不只在美国,而是全球银行体系。 他用了一个比喻:煤矿里的金丝雀已经死了,现在轮到矿工了。硅谷银行一夜之间倒闭,那只金丝雀太大,大到像一只火鸡。 他的推论更重:如果真的按市价去重估银行的贷款组合,整个银行业可能都是负资产。 商业地产是下一块。 居家办公让全球城市的写字楼使用率大幅下降。旧金山的空置率是 40%,属于极端案例,但纽约和其他城市也创了纪录。 资产的性质变了。商业地产过去是 A 级资产,银行持有相关敞口会被视为最安全的配置之一。现在不是了。一家接一家的公司取消租约、不再续约,或者干脆破产。公司死了,银行没有东西可追。 马斯克说,这块“铁砧”还没落地。目前看到的只是轻微的资产质量恶化,今年晚些时候会变得严重。 房价也在往下走,逻辑是利率。 大多数人买房看的是月供。三十年按揭里,利息占大头。基准利率高,同样的月供能借到的本金就少,等于房价被压下来。如果房价跌到低于贷款余额,家庭就出现负资产。 银行如果在商业地产和住房按揭两头都出现贷款损失,局面就很麻烦。 有没有缓解办法?有,美联储降息。但它还在加息。 马斯克提了一个历史对照:上一次美联储在进入衰退时加息,是 1929 年。之后是大萧条。 卡尔森补了另一半困境:如果现在降息,通胀会重新加速,而这发生在选举年。 马斯克对通胀的解释很朴素。货币是一串数据库里的数字,经济产出是商品和服务。两者的比例稳定,就没有通胀。货币增加得比商品和服务快,就有通胀。 所以疫情期间那些刺激法案,钱不是收上来的,是印出来的。联邦政府和州政府、市政府、个人不同,只要没撞到债务上限,就可以直接发更多货币。 他说,老话说没有免费午餐。如果印钱真的没有后果,那为什么不干脆让每个人都变成万亿富翁?委内瑞拉试过,结果人们开始吃动物园里的动物。 ## 外星人、生育率,和文明的两种死法 访谈里有一段轻松的段落,关于外星人。 马斯克说,人类开始把自己在地球上的存在当成理所当然,把意识当成一种正常会发生的事。但据他所知,宇宙里没有任何其他地方存在意识生命的证据。 这就是费米悖论(Fermi Paradox),物理学家恩里科·费米提出的问题:如果有外星文明,他们在哪? 马斯克说,很多人问他外星人在哪。他的回答是,如果地球上真有人知道外星人的事,那大概是他,因为他非常熟悉航天。而他没见过任何证据。真见到了,他会立刻发推,那条推大概会成为史上点赞最高的一条。 他讲了一个段子。60 年代有位将军被问到 51 区,回答说,我们一直在争取更多国防预算,如果有人把外星人拿出来说“我们需要钱来防御这些家伙”,你要多少预算?全给你。 卡尔森笑:他们看起来确实危险。 马斯克说,是啊,入侵随时可能开始,谁知道呢。 笑完,话题收回到严肃的部分。他不认为人类是独特的,他只是陈述没有证据。他希望有,也希望对方和平。 然后是文明。 马斯克说,不该假设文明是稳固的。看历史,古埃及、苏美尔、罗马,一个接一个地兴起和衰落。文明有生命周期,像人一样。 他希望文明能持续向上,这也解释了他为什么担心生育率。 日本去年的死亡人数是出生人数的两倍。 卡尔森问,繁衍的冲动仅次于呼吸和进食,这么基本的本能怎么会被绕过去? 马斯克的解释在机制层面。过去,繁衍靠的是一套简单的边缘系统奖励。有了避孕和堕胎之后,人可以满足本能而不产生后代。进化来不及跟上,因为这一切只发生在最近五十年。 他的判断是:如果造不出足够的人来维持人口数量,文明会崩。 卡尔森把话说得更狠:文明会以一声呜咽结束,穿着成人尿布。 马斯克说,这比战争还令人沮丧。他宁愿轰然一声。 整场访谈里,这句话最像他。别的议题他都在算概率、算路径、算哪里可以装个开关。到了人类自己要不要继续繁衍这件事上,他没给模型,只给了偏好。 回到开头那个拔电源的方案。它听着像工程师的黑色幽默,其实是他整套想法的缩影:对技术的能力保持敬畏,对技术的方向保持怀疑,然后尽可能地留下一个物理层面的、笨拙但可靠的退路。 这套思路能用在 AI 上,也能用在别的地方。他自己买推特、裁八成员工、给私信加密、盯着银行资产负债表、操心日本的出生率,看起来是五件不相干的事,底下的问题只有一个:一个系统跑得太快、没人踩刹车的时候,你还能不能找到那个开关。 - 把 AI 安全当成一个具体的工程问题,而不是一个抽象的道德话题。至少搞清楚三件事:你用的模型被谁训练、训练数据里有哪些倾向、出错的时候你能不能把它关掉。 - 在自己的业务里用大模型之前,先建一条内容核验流程。客服、文案、代码这类低风险场景可以先跑,涉及对外发布、法律文件、财务数字的环节,必须留人工复核。 - 如果你是内容生产者,砍掉一半的推送量。马斯克对《纽约时报》的批评有道理:一天发十条最重要的,比刷几百条更有用。注意力是稀缺资源,别自己把它稀释掉。 - 检查一遍自己和公司的利率敏感度。浮动利率负债、以商业地产为抵押的贷款、靠再融资滚动的地产项目,这三类敞口在未来一年里值得单独拉一张表。 - 对 AI 生成的内容建立来源验证习惯。看到一段视频、一段录音、一张截图,先问它在哪个平台首发、有没有原始文件、有没有第二方独立确认。这个动作明年会比今年更重要。 - 把人口结构当成长期变量放进判断里。它不像季度财报那样每天跳数字,但它决定十年后谁来交税、谁来买房、谁来照顾老人。日本那份数据摆在那儿,更像预告片,不像新闻。 - 最后一条关于监管:别只听发布会。AI 监管的真实进展在征求意见稿、听证记录和机构预算里,那些文件枯燥,但它们决定了未来几年什么能做、什么不能做。