斯诺登强烈批评:OpenAI的行为违反了人类的利益!

发表时间: 2024-03-12 18:00

作者 | 李冬梅

近年来,人工智能技术的快速发展引起了广泛关注。然而,这项技术的发展也带来了一系列争议和问题。上周,亿万富翁埃隆·马斯克对美国人工智能公司 OpenAI 提起了法律行动,指控其背离了初衷,将人工智能用于盈利而非为人类福祉服务。


进随其后,OpenAI 本周就发出了创始人联名信并附上了 8 年来马斯克与 OpenAI 创始团队成员们的邮件往来。


而今天,马斯克在自家社交媒体 X 上发文称,“OpenAI 一直活在谎言中”,算是对近期 OpenAI 邮件攻击的回应。



值得注意的是,斯诺登也在 X 上发文力挺马斯克,称 OpenAI 的某些行为不只是反社会,甚至反人

类。


Altman:马斯克是英雄,也是混蛋


马斯克与 OpenAI 的结怨最早要追溯到 2018 年。


2015 年,马斯克和奥特曼与 Peter Thiel、LinkedIn 联合创始人 Reid Hoffman 和 Y Combinator 联合创始人 Jessica Livingston 等其他硅谷大佬们共同创立了 OpenAI。有着多位硅谷大佬们背书的 OpenAI 很容易吸引到了该领域内众多顶尖人才。


根据 OpenAI 网站 2015 年 12 月 11 日的一份声明,该组织的目标是创建一个非营利组织,专注于“以最有可能造福全人类的方式”开发人工智能,他们集体承诺提供 10 亿美元资金支持公司发展。


当时,马斯克表示人工智能是人类“最大的生存威胁”。


到了 2017 年,尽管 OpenAI 在人工智能领域投入了大量资源,但依然未能取得突破性的研究成果。马斯克和 OpenAI 之间的关系就像许多古老的资本主义故事一样:一家公司的创始人们一开始有着共同的目标,但很快发现他们的看法不一致,导致分裂和激烈的法律索赔,马斯克和 Altman 两个人也从亲密无间走向了各奔东西。


据知情人士透露,2018 年初,马斯克告诉 OpenAI 另一位创始人 Altman,他认为多人合资的 OpenAI 已经严重落后于谷歌。


为了追赶上谷歌的进程,马斯克提出了一个可能的解决方案:将 OpenAI 并入他旗下的电动汽车公司特斯拉,他将控制 OpenAI 并亲自运行它。他在一封电子邮件中写到:“特斯拉是唯一有希望与谷歌比肩的公司。即便如此,与谷歌抗衡的可能性也很小,但至少不是零。


马斯克开始试图劝说 OpenAI 的研究人员跳槽加入特斯拉,这惹恼了他的同事。到 2018 年 2 月,Altman 和 OpenAI 的其他创始人拒绝了马斯克的提议。吃了“闭门羹”的马斯克一气之下退出了董事会,他和 OpenAI 公开表示,他离职的原因是利益冲突,因为正在开发自己的自动驾驶人工智能的特斯拉将与 OpenAI 争夺人才,这种竞争有一定道理。特斯拉已经挖走了 OpenAI 最优秀的人才之一安德烈·卡帕蒂 (Andrej Karpathy),他成为特斯拉自动驾驶项目的架构师。


OpenAI 很少有人相信马斯克会因为这个原因离开,他离职时在 OpenAI 办公室发表的一次演讲主要关注潜在的利益冲突,但没有得到大多数员工的好评,他们认为完全相信这个故事。就连之前承诺的在几年内提供 10 亿美元资金支持也只兑现了约 1 亿美元后就没有了下文。


没有了资金支持的 OpenAI 面对训练大模型的天价费用时变得束手无策。


那年秋天,OpenAI 的一些人更加明显地意识到,成为一家尖端人工智能公司的成本将是巨大的。谷歌大脑的“Transformer”开辟了一个新领域,人工智能可以在其中不断改进。但这意味着要为其提供无尽的数据来训练它——这是一项代价高昂的工作。


OpenAI 做出了一个重大决定,转向训练 Transformer 模型。


2019 年 3 月 11 日,OpenAI 宣布将创建一个营利性实体,以便筹集足够的资金来支付训练人工智能模型高昂的算力成本。该公司当时写道:“我们希望提高筹集资金的能力,同时仍然履行我们的使命,而据我们所知,现有的法律结构无法在两者之间达到平衡。” OpenAI 表示,它正在限制投资者的利润,任何超出的部分都将捐给原来的非营利组织。



据知情人士透露,Altman 还做出了一个不同寻常的决定:他不会持有新的营利性实体的股权。Altman 透露给外界的信号是——自己已经非常富有,投资了几家非常成功的科技初创公司,并且不需要钱。


Altman 还认为该公司需要从非营利机构转为一家正经的商业化公司,这样才能继续公司的业务,但他告诉人们这么做并不是为了赚钱,避开任何所有权利益将有助于他与最初的使命保持一致。


不到六个月后,OpenAI 从微软获得了 10 亿美元,微软不仅可以提供资金,还可以提供基础设施专业知识。他们共同构建了一台超级计算机来训练大规模模型,最终创建了 ChatGPT 和图像生成器 DALL-E,最新的语言模型 GPT-4 拥有 1 万亿个参数。


当 ChatGPT 在 11 月推出时,OpenAI 立即成为最热门的新技术初创公司,逼得谷歌不得不马不停蹄发布 Bard 来追赶他们的步伐。


随着 ChatGPT 的发布,马斯克对 OpenAI 的怒意达到了最顶峰。


ChatGPT 推出一个月后,马斯克取消了 OpenAI 对 Twitter“fire hose”数据的访问权限——该合同是在马斯克收购 Twitter 之前签署的。


去年 2 月 17 日,他在推特上写道: “OpenAI 是作为一家开源(这就是为什么我将其命名为 OpenAI)、非盈利公司而创建的,目的是与谷歌制衡,但现在它已经成为一个闭源、由微软实际控制的盈利公司。”



随后,3 月 15 日,马斯克继续在推特上写道:“我仍然很困惑,我捐赠了约 1 亿美元的非营利组织如何以某种方式变成了市值 300 亿美元的营利组织。如果这是合法的,为什么不是每个人都这么做呢?”



对于马斯克的连续发文,OpenAI 拒绝置评。


又过了一个多星期,3 月 25 日 Altman 在一档播客节目中终于回应了马斯克对他们的批评。 Altman 赞扬马斯克在多个领域取得的成就,他表示马斯克在自己眼中曾是位英雄,但也直指马斯克在推特上的表现是个混蛋。

面对马斯克控诉,OpenAI 公布 8 年邮件往来


多年积怨在最近再次爆发。


亿万富翁马斯克对 OpenAI 采取了法律行动,指责该公司违反合同并忘记了最初的使命。马斯克在向旧金山法院提起的诉讼中表示,OpenAI 与微软的合作破坏了该公司最初致力于开发公共和开源通用人工智能的承诺。


这篇长达 53 页的 Google 文档在网络上掀起轩然大波,文稿中透露 OpenAI“计划在 2027 年发布 GPT-8,实现完全 AGI”。


文档显示,OpenAl 自 2022 年 8 月开始着手训练一个庞大的 125T(万亿)参数的多模态大模型,而 Q* 就是该模型的第一个阶段。


据称,该模型就是原计划在 2025 年发布的 GPT-5,训练于 2023 年 12 月完成,智商达到了 48。


而预计分别于 2026 和 2027 年发布 Q* 2024( GPT-7) 和 Q* 2025( GPT-8),智商将达到 96 和 145。


但由于推理成本过高,加上马斯克诉讼的影响,这一系列计划被迫推迟。



马斯克始终强调,OpenAI 如今对做法与自己当初创立公司之时背道而驰。在他看来,OpenAI 把他骗惨了。


作为回应,OpenAI 目前已经公开了马斯克发给公司其他创始人的电子邮件。在这些电子邮件中,可以看出埃隆支持在公司设立一个营利性部门的想法,以便公司能够筹集足够的资金来完成其使命。OpenAI 在 Greg Brockman、Ilya Sutskever、John Schulman、Sam Altman 和 Wojciech Zaremba 撰写的博客文章中分享了这 4 封电子邮件。


文章的开头,OpenAI 掷地有声地宣告 “我们的使命是确保通用人工智能(AGI)的发展能够造福全人类。这不仅意味着我们需要开发出既安全又有益的 AGI 技术,还意味着我们要努力让这种技术带来的好处能够广泛地惠及社会各界。”


接着,话锋一转,矛头直指诉讼事件,“我们计划反驳马斯克提出的所有指控。”


对于马斯克的指控,OpenAI 回应表示“坚决反对”,诉讼实为马斯克个人问题,他后悔未能继续参与公司发展。马斯克曾要求对 OpenAI 拥有控制权和多数股权,并欲与特斯拉合并。OpenAI 的首席战略官 Jason Kwon 也进行了具体反驳,即否认 GPT-4 代表 AGI,并称 OpenAI 与微软的关系是独立的,公司也并未放弃造福人类使命的主张。


在 2018 年的第二封电子邮件中,马斯克强调特斯拉是人工智能领域谷歌的唯一竞争者。该电子邮件探讨了人工智能成本高昂的本质,暗示了 OpenAI 的财务挑战,并建议将 OpenAI 附加到特斯拉作为潜在的解决方案。


“我们可能不希望如此,但是,在我看来,特斯拉是唯一有希望与谷歌相媲美的道路。即便如此,成为谷歌制衡的可能性也很小。”他在电子邮件中写道。


在同样是 2018 年的第三封电子邮件中,马斯克谈到 OpenAI 需要“数十亿”美元才能成功完成其使命。“即使筹集几亿美元也不够。这每年需要数十亿美元,否则就算了,”他写道。


第四封电子邮件可以追溯到 2016 年,讨论了一篇文章,Ilya Sutskever 在这篇文章中表示,不分享 OpenAI 技术背后的科学原理是完全可以的。


OpenAI 的使命并非意味着要将 AGI 开源。正如 Ilya 曾对马斯克所言:“随着我们离构建通用人工智能的目标越来越近,适度的保密变得至关重要。在 OpenAI 保持开放,意味着人工智能的成果应惠及每个人,而不必透露每一个技术细节……”


这种观点也得到了马斯克的支持。对于这封电子邮件,马斯克回复了“是的”.


文章的最后,OpenAI “委屈”地声讨马斯克的两面派行为,并再次重申了未来发展的方向。


我们感到很难过,竟然与曾经非常钦佩的人走到了这一步。他曾激励我们追求更高的目标,但随后却告诉我们注定失败,并创办了一家竞争对手。当我们在没有他的参与下开始朝着 OpenAI 的使命取得有意义的进展时,他却选择起诉了我们。

我们专注于推进我们的使命,尽管我们知道还有很长的路要走。随着我们的工具越来越好,我们很高兴能够部署这些系统,让每个人都能使用它们。


附:经 AI 翻译后的往来邮件



网友调侃:OpenAI or OpenEmail?


OpenAI 上一次引发全网关注还是 Altman 被逼离开 OpenAI 又重新返回事件。而这次,面对马斯克的控诉,OpenAI 内部空前团结,一改之前给外界留下的内部混乱、管理层不和的印象。相比于马斯克的直球出击,OpenAI 此次“阴阳怪气”地公布这些私人往来邮件被不少网友和业内人士诟病。


著名学者、纽约大学教授 Gary Marcus 对 OpenAI 的声明嗤之以鼻,直言 OpenAI 所说的“我们持之以恒追求自己的使命,比如不受产生利益回报的限制、不为私人利益掣肘、在适用的情况下寻求技术开源”是胡说八道。



如今,微软拥有 OpenAI 的独家所有权,49%的利润都归微软所有。OpenAI 不是在帮助全人类,而是从艺术家、作家那里窃取来增加自己的利润。


更重要的是,OpenAI 几乎完全放弃了开源,并且成为最不开放的 AI 公司之一。无论与马斯克之间的恩怨如何,OpenAI 声称保持使命不变都是不诚实的


毫无疑问,OpenAI 违背了 2015 年成立时的宣言。


在马斯克最新 X 推文中他表示,如果 OpenAI 改名 ClosedAI 自己就会撤诉。



此外,他还编辑了 Sam Altam 佩戴访客身份证的照片,并在 OpenAI 徽标旁边添加了“ClosedAI”字样。



甚至有网友表示,OpenAI 不如改名为 OpenEmail,结果这一调侃被马斯克点赞。

原文链接:

https://www.infoq.cn/article/YlFgskxoCfB9jok39Jm5