首页 产业新闻 Claude 3破译OpenAI邮件密文:人类未来掌握在「谷歌」手中!马斯克怒斥应改名ClosedAI

Claude 3破译OpenAI邮件密文:人类未来掌握在「谷歌」手中!马斯克怒斥应改名ClosedAI

产业新闻 11

    【新智元导读】大瓜又来了!OpenAI公开邮件之后,马斯克玩梗回复若改名Closed AI决定放弃起诉。闹掰之后,Altman本人表示非常怀念以前的马斯克。

    继OpenAI与马斯克正面宣战,一连曝出8年来往邮件后,马斯克本人终于回应了。

    他表示,「若OpenAI将名字更换到Closed AI,我就放弃起诉」。

    随后,他转发了各种梗图,把Altman经典回岗工作牌,修改成了「Closed AI」。

    揭开OpenAI的本质——Closed AI。

    更有意思的是,网友们对邮件中掩码的内容,发起了「攻击」,想要将其掩盖的文字破译出来。

    不仅用上了世界最强大模型Claude3,就连「分词」猜测都用上了。

    Claude3「破案」:人类未来掌握在「谷歌」手中

    邮件中,马斯克称,「不幸的是,人类的未来现在掌握在▇▇的手中」。

    那么,究竟是谁的手中?

    网友Pietro Schirano称,「自己用Claude3解密了OpenAI邮件中遮挡的一部分内容」。

    令人惊讶的是,他们使用的是「按字」脱敏的方法,这意味着每脱敏的长度与单词的长度成正比。

    因此,根据上下文和单词长度,Claude对原文内容做出了如下猜测:

    首先,马斯克所说人类的未来,现在掌握在「谷歌」的手中。

    然后紧接着下一句是,「我相信,仅DeepMind每年的开支就在1亿美元以上」。

    这句话一眼就能看出来,是错误的,毕竟原文的句子长度,是在「hands」单词前结束了。

    最后抹去的一大段,Claude3猜测:他们正在建设庞大的集群,并且有一条通往通用人工智能的明确路径。它能适应任何问题,在每项智力任务上都能碾压人类,同时还能在廉价硬件上运行。

    不管怎么说,有了Claude3的密文解译,从头看下来,这封信的内容确实毫不违和。

    再来看看另一封邮件中,涂黑的一大段,是OpenAI团队的人发给马斯克的。

    想要破译这个邮件难度就太高了,网友varepsilon开始第一步就是「分词」。

    他猜测,这应该是Karpathy写给马斯克的信,并抄送给了自己。

    经过一番努力,破译的第一句话是:DeepMind's AlphaZero implementation is over nine to twelve times the next

    不过,更多的进展,还在进行中。

    就连OpenAI的视频生成研究员Will Depue对此还产生了兴趣,并表示「这看起来很有趣,我也想加入其中,但很可能行不通」。

    邮件中透露的5个细节

    1. Ilya澄清OpenAI中的「open」并不意味着「开源代码」

    首席科学家Ilya Sutskever在邮件中的一句话,成为众多网友的关注点。

    随着我们离构建人工智能越来越近(close),减少「open」是说得通的。

    他认为,「open」意味着在AI构建完成后,其成果应该让所有人受益,但这并不意味着必须分享所有科学研究成果。

    尽管在短期到中期内,为了招聘目的分享成果无疑是正确的策略。

    2. 马斯克同意AI不一定要开源

    对于Ilya的回信,马斯克仅用一个词,表达了赞同AI技术不一定要开源。

    3. 马斯克建议将OpenAI与特斯拉合并

    向Sutskever和Brockman发送的邮件中,马斯克称:

    OpenAI正在「烧钱」,而当前的资金模式难以与谷歌等大公司竞争。最有希望的办法是,将OpenAI与特斯拉合并,通过特斯拉为其提供资金来源。

    马斯克补充道,我们可能希望不是这样。但在我看来,特斯拉是唯一能与谷歌抗衡的公司。即便如此,成为谷歌的制衡力量的可能性也很小。但这种可能性并非为0。

    4.2018年便开始讨论OpenAI转向盈利模式的可能性

    虽然OpenAI表面上仍然是一家非营利性组织。

    但早在2018年,OpenAI和马斯克就讨论了营利性转向——即转向目前不同寻常且复杂的非营利/有限营利结构。

    马斯克指出,以盈利为重点的战略可能会随着时间的推移创造更可持续的收入来源,而且就目前的团队而言,很可能会吸引大量投资。但从头开始构建产品可能会过于复杂,分散研究的焦点。

    他继续表示,最有希望的方法是让OpenAI「将特斯拉作为其摇钱树」,帮助构建自动驾驶解决方案。

    「如果能做得很好,且运输业的规模足够大,那么就可以将特斯拉的市值提高到O(~100K),并用这笔收入在适当的规模上为人工智能工作提供资金。」

    5. Ilya担心出现「硬起飞」状况——安全的AI比不安全的更难构建

    Ilya所说的「硬起飞」,实际上是指——人工智能突然快速发展到超越人类智能的阶段,而没有缓冲期。

    他强调,这种情景下,开发安全的AI比开发不安全的AI更加困难。如果将一切开源,那么拥有大量算力的「坏人」将很容易构建不安全的AI。

    马斯克与Altman的「爱恨情仇」

    马斯克与OpenAI、Altman之间,还有一些从未公开的秘密。

    从相爱到相杀,他们之间究竟经历了什么?

    今天,WSJ发表的一篇长文,讲述了马斯克与Altman的「兄弟情谊」如何走向终结。

    十多年前,在南加州SpaceX的总部,Sam Altman第一次深刻感受到了马斯克的雄心壮志,而那次会面也彻底改变了他的人生轨迹。

    如今,身为OpenAI首席执行官的Altman,经常会回想起当时心里产生的巨大反差。

    20多岁的自己刚刚以不尽如人意的价格,卖掉首个创业项目的日子,而比他大14岁的马斯克,正筹划着向火星发射火箭的宏图。

    Altman后来回忆道,「我当时心想,『原来这就是坚定信念的模样』」。

    最近,Altman更是亲身体会到了这位「昔日导师」对信念的坚持:马斯克直接向Altman本人发起了挑战。

    在上周提起的诉讼中,马斯克指责Altman为追求利润背离了OpenAI最初的使命,而OpenAI对此予以否认。

    这场愈演愈烈的爱恨情仇,恰恰揭示了人工智能军备竞赛中不断变化的力量平衡。

    2015年,两人共同创立了OpenAI。作为一个非盈利的研究机构,初期的数千万美元(根据邮件4000万美元)都是由马斯克亲自出资。

    如今,马斯克已经离开,OpenAI则转向商业化,获得了微软数十亿美元的投资。OpenAI正在引领当下的AI热潮,而马斯克自己的初创公司xAI,却只能勉强追赶这个曾经由他资助起步的组织。

    「从个人角度来说,这很令人难过,」Altman在诉讼当天向员工发出的备忘录中表示。他把马斯克称为自己的个人英雄。

    「我愿意将马斯克看作是一位建设者,一个通过构建更优技术来竞争的人,我希望他能站在我们这边,」他这样写道。

    在昨天OpenAI发布的一篇博客中,计划驳回马斯克提出的所有法律指控。

    多年以来,Altman依靠马斯克的名望和财富帮助OpenAI起步。他们联手试图阻止当时在AI领域遥遥领先的谷歌成为行业霸主。

    然而,围绕他们合作关系恶化的原因,身边的人却给出了不同的说法:

    - 站Altman的人认为,马斯克是嫉妒他在AI领域的成就。相比于AI安全,马斯克更在意的是如何超越OpenAI。

    - 而马斯克的支持者则认为,他对AI安全的担忧是真切的,并且他视xAI为开发出OpenAI之外更好的选择的关键。

    缘起:联手创办OpenAI

    Altman和马斯克是由Y Combinator的合伙人Geoff Ralston介绍认识的。

    当二人第一次相遇时,Altman刚刚将Loopt以一个并不理想的价格卖出,这个价格仅仅回本。

    20多岁的他当时正处于人生的十字路口,一边在印度的修行处寻找心灵的平静,一边在考虑是创办新公司还是全身心投入投资。

    相比之下,马斯克当时已经成功开发了一种能够从空间站回收货物并返回地球的商业航天器,他认为这是实现人类星际生活的关键第一步。

    随着AI的发展越来越快,马斯克也越来越感到不安。

    根据马斯克的诉讼,他的担忧起源于2012年与AI公司DeepMind的联合创始人Demis Hassabis的一次会面,会上Hassabis强调了AI进步对社会可能带来的潜在风险。

    而诉讼中未提及的是,会后马斯克投资了DeepMind,以便更密切地关注这项技术的发展。

    后来,当马斯克得知谷歌计划收购DeepMind时,他感到非常震惊。

    他与PayPal的联合创始人之一Luke Nosek提出了竞购,但未能成功——谷歌则最终买下了DeepMind。

    Altman从小对AI充满了浓厚的兴趣,18岁时就已经将其列为自己想要深入探索的问题之首。

    随着Altman在硅谷的知名度不断上升,他努力将科技界的焦点聚焦于AI的巨大潜力上。

    2014年,他在个人博客上称AI可能是「有史以来最重大的技术发展」。几天后,他被任命为Y Combinator的负责人,而Y Combinator后来也成为了OpenAI的支持者。

    和马斯克一样,Altman也对这项技术的潜在危险深感忧虑。2015年2月,他曾写道,AI「可能是对人类持续存在最大的威胁」。

    在那年3月,Altman询问马斯克是否有兴趣联合撰写一封公开信,呼吁美国政府关注人工智能的问题。

    到了5月,他向马斯克发送邮件,建议Y Combinator启动一个类似「曼哈顿计划」的人工智能项目。马斯克回应表示这个想法「可能值得进一步讨论」。

    随后,两人开始合作着手筹建一个新的AI实验室——马斯克为它起名叫OpenAI。

    大牛Greg、Ilya入局

    Altman在6月的邮件中提出,他们应该作为一个5人董事会的成员来管理这个非盈利机构,并建议在实验室正式成立后再发布呼吁AI监管的公开信。马斯克对此表示全面同意。

    Altman邀请了Greg Brockman,Stripe的首席技术官加入。

    而马斯克则帮助招募了在谷歌工作的顶尖AI科学家Ilya Sutskever。

    为了让非盈利机构的薪酬方案更有吸引力,OpenAI计划向招聘的员工提供特斯拉和SpaceX的股份,以及参与Y Combinator投资项目的机会。

    马斯克和Altman成为了OpenAI的首批联合主席。据前员工透露,实际上是马斯克在这个组织中拥有更大的影响力和控制权。

    最初,马斯克经常出现在办公室,提出一些大胆的想法,并询问员工们对于实现通用人工智能(AGI)的看法。

    有趣的是,当时的OpenAI和马斯克的另一个创业项目——脑机接口公司Neuralink——是共用办公空间的。

    与此同时,马斯克还是OpenAI的财务支柱。

    OpenAI曝出的邮件称没,马斯克曾许诺了10亿美元资金的承诺,避免听起来与谷歌或Facebook支出相比毫无希望,并承诺补足任何资金短缺。

    而在当时,Altman和Brockman最初的筹资目标是1亿美元。

    根据投诉资料,马斯克总共捐赠了4400万美元,其中2016年捐出1500万美元,2017年又捐出2000万美元,连续两年成为最大的捐赠者。此外,他还承担了OpenAI几年的房租。

    马斯克力促OpenAI的研究团队开展创新项目,从而在与DeepMind的竞争中占据先机。其中一个团队的目标是Dota2中战胜世界顶尖玩家。

    未出成果,通往AGI压力重重

    但到了2017年,OpenAI尚未取得任何重大研究成果。

    前员工透露,马斯克显得越来越不耐烦,他加大了对员工的压力,有时甚至威胁要退出项目。

    同年,谷歌发布了一项关于新型AI模型「Transformer」的研究论文,这标志着构建类似人类聊天机器人等工具的大型语言模型的新纪元。

    论文指出,实现这一目标需要处理大量数据和巨大的计算力。

    为了筹集足够的计算资源,Brockman和其他人提议将OpenAI的架构转变为盈利性质。

    这样一来,它就能从包括微软在内的投资者那里获得资金。

    马斯克对此持反对态度,他在给Brockman、Sutskever和Altman的信中明确表示,要么他们自己另起炉灶,要么就继续保持OpenAI的非盈利性质。他强调,在他们作出明确承诺之前,他不会再为OpenAI提供资金,「讨论到此为止。」

    对此,Altman回应称,他仍然「非常看好非盈利模式」!

    在周二发布的博客文章中,OpenAI表示马斯克已经认识了到建立营利实体的必要性,但他不仅希望获得多数股份和初始董事会的控制权,还想担任CEO。

    一方面,马斯克一直在试图加强对OpenAI的控制,甚至提议将OpenAI纳入特斯拉。

    在博客文章中附带的一封电邮中,马斯克表示:「特斯拉是唯一可能与谷歌竞争的途径。尽管如此,成为谷歌对手的几率很小,但并非没有可能。」

    另一方面,马斯克还试图吸引OpenAI的研究人员加入特斯拉,这一行为激怒了他的同事们。

    文章指出,在讨论期间,他曾中断资金支持。此时,OpenAI不得不依赖LinkedIn联合创始人Reid Hoffman的资金支持来维持运营。

    2018年2月,OpenAI的高层拒绝了马斯克意图控制的提案,因此他选择了辞去联合主席一职。此后,Altman接任首席执行官。

    在一次全体员工会议上,Altman对马斯克在组织内的贡献表示感谢,马斯克也在会上表示,他计划在特斯拉开展自己的AI研究。

    当一位年轻研究员对马斯克的决定提出质疑,认为这可能会加剧AI军备竞赛时,马斯克大骂这位研究员是「蠢货」并愤然离场。

    在2018年底,马斯克再次通过电邮向Altman、Brockman和Sutskever表达了他对OpenAI未来的悲观预测。

    他认为,如果不在执行方式和资源配置上进行重大调整,OpenAI与DeepMind/Google保持竞争力的可能性为0。

    尽管马斯克停止了对OpenAI的现金捐款,但他仍继续承担其租金费用。

    2019年3月,在OpenAI成立了盈利子公司后,Altman依然公开支持马斯克。

    在投资者开始做空特斯拉股票时,Altman立即站出来为马斯克辩护。

    ChatGPT诞生,彻底分道扬镳

    2022年11月,当OpenAI发布了能写诗和生成计算机代码的聊天机器人ChatGPT后,两人的关系出现了裂痕。

    马斯克公开表达了对于ChatGPT加快开发强大AI的竞赛的担忧,同时,他也开始质疑这家他共同创立的非盈利组织是如何从微软那里筹集到数十亿美元资金的。这些质疑最终成为了他提起诉讼的依据。

    OpenAI发布ChatGPT不久后,Musk宣布切断了OpenAI访问推特数据的通道,因为OpenAI此前一直在考虑利用其数据来训练模型。

    此后,Altman邀请马斯克访问OpenAI总部,并就推特的决策以及ChatGPT问题进行了一次长时间的私下会谈。

    在那段时间里,马斯克向Altman透露了他有意创立一个新的通用人工智能公司xAI的打算。对此,Altman表示疑惑,他不确定再加入一个AI竞赛的参与者是否能够缓解马斯克的担心。

    在ChatGPT发布后的几个月,马斯克开始努力从OpenAI挖角员工到他的xAI,甚至威胁要对Altman和OpenAI提起诉讼。

    到了11月份,马斯克发布了自己的聊天机器人Grok——一个比ChatGPT不那么「觉醒」的竞争对手。

    近期,xAI开始筹备新一轮融资,这很可能会使它与OpenAI之间的竞争更加激烈。

    在马斯克提起诉讼之后,Altman向他的团队发出了一份备忘录:「认为造福人类与建立企业是相互矛盾的想法,让人难以理解」。

    参考资料:

    https://www.wsj.com/tech/ai/elon-musk-sam-altman-openai-lawsuit-8e6f1897?st=bajbods2e684unc&reflink=desktopwebshare_permalink

    https://venturebeat.com/ai/5-revealing-details-from-openais-emails-with-elon-musk/

    https://twitter.com/skirano/status/1765238754615181531

    https://twitter.com/var_epsilon/status/1765244646844711238

广告

文章目录

    标签列表