微博

电脑版
提示:原网页已由神马搜索转码, 内容由weibo.com提供.
马斯克的新访谈谈及OpenAI及其风险问题
三思柯南2023-12-03 投诉
阅读数:14413

​​伊隆·马斯克前几天出席纽约时报2023年DealBook峰会的时候又搞了一次访谈,采访他的是纽约时报的名嘴Andrew Ross Sorkin。

 

1、Sorkin上来先问的是马斯克发帖反犹风波。说实话,这种话题在中国人看来很无聊,因为这几乎完全是美国国内政治驱动的,根本上,是美国的犹太-以色列游说集团推动的。


马斯克本身不是犹太人,他出身是南非白人,所以他和犹太人集团利益不一致也很正常。Sorkin绕着圈子问他是不是做错了,是不是反犹,是不是要忏悔,他就说,我不反犹啊,我以前被人认为是犹太人的时候我也没生气啊。意思是,如果他反犹,那么别人认为他是犹太人,他肯定会气炸了。他还辩解说,去以色列访问不是赎罪道歉,那是在发帖风波之前就安排好的。

 

但是,当Sorkin说到广告商要因此抵制社交平台X的时候,马斯克应该是实在忍不了了,说,广告爱投不投,让那些抵制X的广告商go fxxk yourself,连说了两遍。当Sorkin再问的时候,马斯克用了缩写GFY。这下Sorkin好像有点小尴尬,说,你这样不顾现实,不怕X公司倒了吗,马斯克就说,我们会把公司怎么倒掉详细记录下来拍成纪录片,让大家看看公司是怎么(被你们逼)死的。

 

说起来有个插曲很好笑,马斯克说客套话,说我是看你是我的好朋友才来参加这会议访谈的,我都没要出场演讲费,咱俩一直是铁子。但是转头就把Andrew 叫成了乔纳森。Sorkin还不得不纠正了一下,“我的名字是安德鲁啊”。

 

在这个“反犹”问题上,能很清楚地看到美国的犹太-以色列游说集团推动的这种美国国内政治的影响力有多强,即便是世界首富马斯克在发了一个严格来说不能叫反犹的帖子之后,也要说软话。但是他显然是不服气的,否则也不会连说三遍粗口。

 

当然可以明白马斯克为什么有这样的心态。毕竟犹太人在政治、经济上属于美国天龙人,那些犹太团体恨不得把“与犹太人团结意义大于天”、“反犹是高压线”贴在每个美国人脑门上。马斯克作为非犹太人尤其是新买了社交平台,当然是神烦这个的。


2、关于中国的话题。Sorkin问马斯克,tiktok对于美国是不是国家安全威胁,是不是中国zf用来给美国人洗脑的工具。

 

听到这里我心想这才多少年啊,怎么变成美国风声鹤唳抓网特了,制度自信都跑到哪里去了。

马斯克的回答也很狡猾,他上来就说他是不用tiktok的,他承认他用过,但是当他意识到tiktok的算法正在探测他的思想的时候,他就不用了。

 

然后,开头Sorkin说X的反犹帖子问题,他就借机说,反犹内容在tiktok太多了。不过,他迅速而坚决地否认了tiktok的这种情况是中国zf操纵的,他说这个实际上就是AI驱动的算法造成的,不是人为操纵。

 

这个回答仔细想想很有趣,因为他实际上是在说,那么多“反犹”内容,是因为美国人就好这一口,所以AI算法推送了这类“反犹”内容。


Sorkin又问,马斯克你赞同言论自由,X也要言论自由,那你和中国做生意岂不是很虚伪吗?马斯克完全不上套,他说和中国做生意的又不止我一个美国公司,都虚伪吗?而且他用了很官方的回复,说我在世界各地做生意都是遵守法律的,你们别误会了,我不是有钱任性,我只做合法的生意。


Sorkin还是不死心,絮絮叨叨要他表态,万一台湾在战争中要用星链通信怎么办?马斯克回答的也很圆滑,说有卫星通信系统的又不止我这一家,只不过我们的产品是最好的。意思是你不能逮着我猛薅,什么都让我出头、让我表态。

 

然后马斯克反手又夸了中国几句,说认为中国汽车很有竞争力,将来可能前十位的汽车公司是1个特斯拉后面跟着9个中国公司,就是说没有日本美国德国法国传统汽车公司什么事了。马斯克还认为认为中国人工作敬业,特斯拉中国团队在中国也是最优秀的云云。

 

总之,主持人Sorkin是想方设法套马斯克的话想让马斯克说几句反对中国的话,但是马斯克不接这茬,要么打哈哈糊弄过去,要么还夸了中国几句。

 

这和甲骨文老总、犹太人埃里森是有很强的对比的。埃里森是非常反华,甚至因为觉得中国是威胁,把甲骨文中国部分裁撤了,认为哪怕是和中国做生意也是培养了中国工程师也就是培养了竞争对手。


3、关于Space X。马斯克简单说了他自己的哲学思想。他说他的哲学就是好奇心。他说12岁的时候遇到了存在危机,读了叔本华、尼采更抑郁了,但是当他读了道格拉斯·亚当斯的科幻小说《银河系漫游指南》之后,醒悟到了正如此书(他称之为以幽默形式写成的哲学书)说的那样,难的不是答案,真正难的是问出问题。而人类只有延续足够长才能问出终极问题,所以他搞了SpaceX是为了延续人类文明。但是他也说,让人类移民其他星球不仅仅是一种通过大过滤器考验的保险措施,而且人类的征途就应该是星辰大海。

 

这话肯定是很科幻的,所以听到Sorkin满头雾水马上提出要换话题,马斯克也很识趣的说,可能这话是有点奇异,但是应该会有人会产生共鸣。

 

也可能马斯克这话是忽悠,但是至少比贾跃亭实干。

 

Sorkin还问了马斯克一个问题,很多人当初都说你搞不成spacex,你都证明给他们看了,你是怎么看待这个问题的。

 

马斯克显然并没有他的那些粉丝那么狂热。马斯克有很多粉丝有这样的心态,认为别人都说马斯克做不成,马斯克偏偏一次一次都做成了,就搞得很象《读者》励志文。马斯克的回答是,这个物理规律是无情的,不像违反人类制定的法律那样简单,如果你做的不对,那肯定会炸。总的来说感觉马斯克还是比较冷静的,对于火星移民还处于走一步看一部的阶段。


4、关于人工智能。马斯克讽刺了OpenAI,他说当初OpenAI这个公司名字就是他起的,由来是开放源代码Opensource,但是这公司怎么反而是超级闭源而且一眨眼价值好几百亿美元了,这什么鬼,合法吗?他的意思是这公司本应该是开源造福大家,怎么变成闭源闷声发大财了?

 

至于为什么共同创立了OpenAI,马斯克说,那是因为当初他还和谷歌的拉里·佩奇探讨人工智能风险问题的时候,佩奇说马斯克是个“物种主义者”(speciest),就是说马斯克类似于种族歧视主义者,只不过他歧视的是其他“物种”也就是AI。换句话说,佩奇认为马斯克担心AI的风险就相当于德国雅利安人担心犹太人会统治世界;或者说,本质上佩奇类似于《三体》里的降临派,认为三体人更优越因此人类没理由反抗。

 

这话让马斯克炸毛了,他的想法类似于,万一那些AI崛起了反而把人类送毒气室里怎么办?所以他说,当时谷歌的AI部门又有人又有钱,这不行,我得办个公司制衡一下拉里这种根本不顾人工智能风险的人。

 

关于最近OpenAI的宫斗,马斯克说他也不知道内幕,但是推测说,要么是纯宫斗,要么是因为他们发现了可能比较危险的AI,导致奥特曼被炒掉。


至于AI风险性的终极问题,马斯克说他曾因为AI可能的风险而选择不去搞AI,而且因为担心而睡不着觉,但是后来他觉得认命了,觉得反正有可能避免不了,倘若真的有一天AI崛起取代人类,能看到这一天也值了。

 

对了,关于AI的进展,马斯克觉得虽然比人类还聪明的AI目前暂时没有,但是能达到写出哈利波特小说这种水平的AI可能三年后就会出现。

 

 

 以下是访谈部分原文

******************

埃隆·马斯克:

不。如果要描述我的哲学,那就是好奇的哲学。在我12岁左右的时候,我确实遇到过关于“人生的意义是什么”的存在危机。一切不是都毫无意义的吗?为什么不干脆自杀呢?为什么要存在?我读了宗教经文。我读了哲学书。老实说,尤其是德国哲学书籍让我相当沮丧。你在少年时代难道没有读过叔本华、尼采的书吗?但后来我读了道格拉斯·亚当斯的《银河系漫游指南》,这是一本以幽默形式讲述哲学的书。亚当斯在那本书里提出的观点是,我们实际上并不知道该问什么问题。所以我才这么说,答案是42。基本上,地球是一台巨大的计算机,它得出的答案是42。但是,真正弄清楚问题是什么,这才是真正困难的部分。我认为这在物理学中也普遍如此。当你能正确地提出问题时,答案其实就是容易的部分。

因此,我当时的动机是,我的生命是有限的,在银河系的时间尺度上真的是昙花一现。但是,如果我们能扩大意识的范围和尺度,那么我们就能更好地找出关于宇宙这个答案的问题。也许我们还能找到生命的意义,甚至找到正确的问题。我们从哪里来?我们要到哪里去?外星人在哪里?有外星人吗?……诸如这些问题,是否能发现新的物理学?因为关于暗物质和暗能量似乎存在一些真正的问题。因此,SpaceX的目的是将生命持续延伸到地球之外,这样我们至少可以通过诸多费米大过滤器之一,这个过滤器就是局限于单一行星文明。

如果我们是单一行星文明,那么我们只是在等待一些灭绝事件,不管是人为的还是自然的。但如果你是一个单一行星文明,最终这个行星会发生一些事情,你也会死去。如果你是一个多行星文明,你会活得更久。此外,多行星文明也是成为多恒星文明和遨游星际的天然垫脚石。因此,现在,我认为这有两个......这不仅仅是一种防御性动机,也是一种赋予意义的动机,是人类对意义的探索。


安德鲁·罗斯·索金:我能问你一个不同……

埃隆·马斯克:好的。让我说完这个哲学观点,尽管它看起来比较深奥,但可能会引起一些人的共鸣。我们必须摆脱作为单一行星文明的费米大过滤器。如果我们这样做了,我们就更有可能理解宇宙的本质,以及应该提出什么样的问题。如果你信奉好奇哲学,那么我认为你应该支持这一雄心壮志。成为一个多行星物种不仅仅是为生命集体提供生命保险那么简单。那是一个防御性理由。但我也认为,生命不仅仅是解决一个又一个令人悲伤的问题。必须有理由让你在清晨醒来时为自己还活着而感到高兴。必须有理由让你说,为什么你对未来感到兴奋?是什么给了你希望?如果你不确定,可以问问您的孩子。我认为,我们成为航天文明,遨游星际的想法令人十分令人兴奋,值得期待。世界上需要这样的东西。

 


安德鲁·罗斯·索金:现在我想谈谈人工智能。我们请来了黄仁勋,他是你的忠实粉丝,你也知道。

埃隆·马斯克:是啊,老黄真给力。

安德鲁·罗斯·索金:顺便说一下,很有趣,我和(OpenAI公司的)Ilya Sutskever谈到了2016 年的时候给你带来了第一箱(计算卡)

埃隆·马斯克:是的。有一段我和黄仁勋在OpenAI 开箱第一台人工智能计算机的视频。

安德鲁·罗斯·索金:因此,我很好奇你对过去两周发生的事情有什么看法。当你在处理其他头条新闻或一系列头条新闻时,OpenAI 还有其他一系列头条新闻。你怎么看?你创立了它,与他人共同创立了它。

埃隆·马斯克:共同创办的,是的。坦率地说,OpenAI的整个这段发展过程有点令人不安,因为成立OpenAI的初衷是为了与谷歌和DeepMind抗衡,后者当时拥有三分之二的人工智能人才,而且基本上拥有无限的资金和计算能力。而当时没有制衡者。这是一个单极世界。(谷歌公司的)拉里·佩奇和我曾经是非常要好的朋友,我会住在他家,我会和拉里谈论人工智能的安全问题到深夜。我明显感觉到,拉里并不关心人工智能的安全。我想,也许是他因为我支持人类而把我称为物种主义者(speciest)的时候暴露了这一点,这个词就类似于种族主义者(racist),只不过说的是认为某一物种更有优越性。(意思是物种主义者就像种族主义者一样,认为人类这个物种比其他物种优越,就像种族主义者认为本种族比其他种族优越——译注)所以,我就想,“等一下,你到底是站哪一边的,拉里?”然后我就想,好吧,听着,这家伙说我是物种主义者(speciest)。他根本不在乎人工智能的安全。我们就不得不有一些制衡措施,因为(拉里的这种想法)不太好。


因此,OpenAI就是这么创立的,本意是要开源。我把它命名为OpenAI,取自开放源代码。而事实上,OpenAI是闭源的,超级封闭的。这公司应该改名为“超级闭源促进利润最大化人工智能公司”。因为它实际上就是这样。命运喜欢讽刺。事实上,我的一个朋友说,预测结果的方法是,最讽刺的结果是最可能出现的,这就像他的奥卡姆剃刀,最简单的解释是最有可能出现的。而我的朋友乔纳认为,最具讽刺意味的结果才是最有可能的。这就是OpenAI的情况。它从一个开源基金会,一个501-C3(非营利)的组织,突然变成了一个价值900亿美元的封闭源代码的营利性大公司。因此,我不知道你是如何从这里走到那里的。

埃隆·马斯克:我不知道你这是怎么......这合法吗?我想,“这是合法的吗?”

安德鲁·罗斯·索金:所以 ,当你看到Sam Altman 被你认识的人Ilya Sutskever赶下台时,Ilya是你的朋友,是你把他带到那里的,你和拉里·佩奇的关系因为你把他招走而事实上破裂了,我想。

埃隆·马斯克:没错。在我招募Ilya Sutskever之后,拉里拒绝和我做朋友。

安德鲁·罗斯·索金:

所以,显然,Ilya 在这里说有些事情很不对劲。

埃隆·马斯克:我认为我们应该关注这个问题,因为我认为Ilya实际上具有强烈的道德指南针。他真的为“什么是正确的”这个问题捏了一把汗。如果Ilya有足够强的理由解雇Sam,我想全世界都应该知道这个理由是什么。

安德鲁·罗斯·索金:你和他谈过了吗?

埃隆·马斯克:我联系过他,但他不想和任何人说话。

安德鲁·罗斯·索金:你和其他这件事背后的人谈过吗?都谈过吗?

埃隆·马斯克:我和很多人谈过。我还没有找到知道原因的人。你知道吗?

安德鲁·罗斯·索金:我想我们全都在努力寻找答案。

埃隆·马斯克:有两种情况,一种是事情很严重,我们应该知道它是什么;另一种是事情并不严重,那么董事会应该辞职。

安德鲁·罗斯·索金:你觉得Sam Altman怎么样?

埃隆·马斯克:我对萨姆的感觉很复杂。权力之戒可以让人堕落,而他拥有权力之戒。所以,我不知道。我想我想知道Ilya为什么这么想解雇Sam。这听起来很严重。我不认为这是小事。我很担心他们创造的人工智能会有危险因素。

安德鲁·罗斯·索金:发现的?

埃隆·马斯克:是的。

安德鲁·罗斯·索金:你以为他们发现了什么?

埃隆·马斯克:这是我的猜测。

安德鲁·罗斯·索金:和OpenAI、谷歌一集其他公司相比,你认为自己的人工智能工作进展如何?

埃隆·马斯克:在人工智能前言,我有些左右为难,因为从30年前我还在上大学时,我就认为人工智能会极大地改变世界。现在,我之所以没有一开始就建造人工智能,是因为我不确定这把双刃剑的哪一面会更锋利,是好的一面还是坏的一面。

因此,我暂缓了人工智能方面的工作,我认为,我本可以创建一家领先的人工智能公司,而OpenAI实际上就是这样的公司,因为我只是不确定,如果你创造了这个灯神,会发生什么,而我认为,建立可持续能源技术更像是一把单刃剑,它是单刃的好剑,让生命可以多行星化,我认为这是单刃好剑,星链几乎是单刃的好剑,让人们更好地连接那些没法联网或联网太贵的人,我认为是非常好的事情。顺便说一句,星链在阻止俄罗斯人进攻方面发挥了重要作用,乌克兰人也是这么说的。因此,我认为在人工智能方面,你会遇到魔法灯神的问题。你可能认为自己想要一个魔法精灵,但一旦灯神从瓶子里出来,就很难说会发生什么了。

安德鲁·罗斯·索金:你认为我们离灯神从瓶子里出来还有多远,或者你认为它已经出来了?

埃隆·马斯克:灯神肯定正在探出头来。

安德鲁·罗斯·索金:AGI,即通用人工智能的概念,考虑到你现在自己正在研究的东西,你知道训练、创建推理、创建权重有多容易或多难,我希望我没有太深入地去研究它是如何工作的,但这些都是软件方面的基本原理。

埃隆·马斯克:有趣的是,所有这些权重基本上都是一个CSV文件中的数字,这就是我们的数字上帝,CSV文件。我觉得很好笑,但事实就是这样。因此,我认为它来得很快。

安德鲁·罗斯·索金:你曾承认夸大了事情发生的速度,您认为这件事发生的速度有多快?

埃隆·马斯克:如果你说在任何事情上都比最聪明的人类更聪明?

安德鲁·罗斯·索金:是的。

埃隆·马斯克:它可能不会比所有人类都聪明,好吧,不会比机器增强的人类更聪明,因为人们已经有了电脑之类的东西。有一个更高的标准,你说它能超过……比如能写出和 JK 罗琳一样好的小说,或发现新的物理学,或发明新的技术,我会说,我们离那个点还不到三年。

安德鲁·罗斯·索金:让我问你一个关于XAI和你们正在做的事情的问题,因为我认为,你们所拥有的东西与其他一些公司不同,你们拥有数据、信息、这里的每个人都把这些东西放在这个平台上进行分类,我不知道每个人最初是否都意识到了这一点。其价值何在?

埃隆·马斯克:是啊。数据非常重要。可以说,数据可能比黄金更有价值。

安德鲁·罗斯·索金:但是,也许你在 X 中以不同的方式拥有黄金,同样,我不知道公众是否理解这意味着什么。

埃隆·马斯克:是的,X可能是唯一最好的数据来源。人们点击X上的链接比地球上任何其他地方都多。有时,人们认为 Facebook 或 Instagram 是一个更大的东西,但实际上,X 的链接比任何地方都多。这是公共信息。你可以用谷歌来搜索。

安德鲁·罗斯·索金:好吧,我问你

埃隆·马斯克:因此,你可以在这里找到地球上任何特定时间点正在发生的事情。事实上,OpenAI 的整出戏都是在 X 平台上上演的。谷歌当然拥有海量数据,微软也是如此,但它是最好的数据来源之一。

安德鲁·罗斯·索金:我能问你一个有趣的知识产权问题吗?作为一个从事创作和新闻业务的人,我可以说,我关心版权问题。因此,关于数据训练的一个想法是,这些东西并不是在人们的版权信息上训练出来的。从历史上看,存在这种概念。

埃隆·马斯克:是的,这是一个弥天大谎。

安德鲁·罗斯·索金(56:00):再说一遍?

埃隆·马斯克:显然,这些人工智能都是在受版权保护的数据基础上训练出来的。

安德鲁·罗斯·索金:所以,当 OpenAI 说这是......这些人都没有说他们在使用受版权保护的数据进行训练时,你认为这是谎言。

埃隆·马斯克:这是谎言。

安德鲁·罗斯·索金:这是个谎言,彻头彻尾的谎言。

埃隆·马斯克:对,彻头彻尾的谎言。

安德鲁·罗斯·索金:好吧。

埃隆·马斯克:100%。很明显,它是用受版权保护的数据进行训练的。

安德鲁·罗斯·索金:好吧。那么,请允许我提出第二个问题,即所有上传数据的人

埃隆·马斯克:这里每分钟都有一个。

安德鲁·罗斯·索金:所有上传到X的文章、不同文章中的语录、视频,所有这些都可以用于训练。有趣的是,人们把这些都放在那里,而这些引文一直以来被认为是合理使用的,对吗?

埃隆·马斯克:是啊

安德鲁·罗斯·索金:人们把这些引文放在那里。就个人而言,在合理使用的基础上,你会说:“好吧,这很合理。”但现在,有些人用的是threads,顺便说一句,可能有很多人写过 1000 字的文章。从技术上讲,所有 1000 字都可以以某种方式放到 X 上。现在,你就有了这个非凡的库,我想知道你是如何看待这个问题的,以及你认为创意社区和原创知识产权所有者应该如何看待这个问题。

埃隆·马斯克:我不知道,只能说,等这些诉讼案判决下来,我们已经有了数字上帝。因此,我会在那个时候向数字上帝发问。在此之前,这些诉讼不会在相关的时间范围内做出裁决。

安德鲁·罗斯·索金:这是好事还是坏事?

埃隆·马斯克:还有那……我不知道这是不是一个真的中国谚语,“愿你生活在一个有趣的时代,这显然不是一件好事”(这是一句以讹传讹的话,并非中国谚语——译注),但就我个人而言,我更愿意生活在一个有趣的时代,而我们生活在一个最有趣的时代。有一段时间,我真的被人工智能的危险威胁弄得失去了动力和睡眠,后来我终于对此产生了宿命论,并说:“好吧,即使我知道毁灭是肯定的,我还会选择在那个时候活着吗?”我说:“我可能会选择在那个时候活着,因为这是最有趣的事情, 即使我也无能为力”。因此,基本上,宿命论的认命让我晚上睡得很香,因为我曾经人工智能的危险而让我夜不能寐。

现在,该怎么办呢?到目前为止,我是人工智能危险问题上敲鼓敲得最响、敲得时间最长的人,至少是敲得时间最长的人之一。

安德鲁·罗斯·索金:你认为他们会有办法解决这个问题吗?我们今天下午和副总统谈过了。她说她想对其进行监管。多年来,人们一直试图对社交媒体进行监管,但却毫无成效。

埃隆·马斯克:任何对公众造成人身危险的行为都会受到管制。因此,汽车受到严格管制,通信受到严格管制,火箭和飞机受到严格管制。关于监管的一般理念是,当某事物对公众构成威胁时,政府就需要进行一定的监督。因此,我认为,在我看来,人工智能比核弹更危险,而我们对核弹进行监管。你就不能在自家后院制造核弹。我认为我们应该对人工智能进行某种监管。现在,这往往会引起人工智能加速主义者的愤怒,因为他们认为人工智能基本上就是天堂。

安德鲁·罗斯·索金:但你通常不喜欢监管。在特斯拉的世界里,在大多数情况下,你都在回击监管机构,我们读到过很多关于你回击监管机构的文章。我很好奇,为什么在现在这种情况下,你还能拥有这样一家企业。

埃隆·马斯克:正如我刚才所说,人们不应该把媒体上的报道当作全貌。不夸张地说,我的公司要遵守的法规可能有上亿条,而不遵守的可能有五条。如果我们不同意其中的某些规定,那是因为我们认为,本意是为了做好事的规定实际上并没有 。

安德鲁·罗斯·索金:但有趣的是

埃隆·马斯克:这不是为了违抗法规而违抗法规。

安德鲁·罗斯·索金:问题是,如果有法律和规则,你的想法是不是决定法律和规则不应该是法律和规则,然后......对吗?

埃隆·马斯克:不,我是说你从根本上就错了,而且你错得很明显。我公司的汽车行业受到严格监管。如果我们不遵守这一庞大的法规体系,我们就不能在道路上行驶汽车。现在,你可以在这个讲台上摆满六英尺高的汽车制造必须遵守的法规。你可以把电话号码簿一样的监管规定放满一个房间。规定就是这么多。如果你不遵守所有这些规定,你就不能卖车。如果我们不遵守火箭或星链路的所有规定,他们就会关闭我们。

因此 ,事实上,我非常遵守法规。偶尔也会有我不同意的地方。我之所以不同意,是因为我认为,在这种特殊情况下,在这种罕见的情况下,该条例并不符合公共利益。因此,我认为我有义务反对本意是为公众利益服务,但实际上并非如此的规定。这是我唯一反对的时候,并不是因为我想反对。事实上,我非常遵守规则。
 

 ​​​​

关注作者,阅读全文 c
还有50%的精彩内容,作者设置为仅对粉丝可见
发布于 山东
推荐阅读