OpenAI:从颠覆者到被颠覆的历程

发表时间: 2023-12-19 17:21

Open AI自去年年底推出ChatGPT并引起全球轰动以来,在技术领域的影响力越来越大,并成为全球关注的焦点。在未来的半个世纪里,人工智能有望成为全球最重要的概念之一。它将会被广泛应用,就像互联网一样无处不在,并在各个领域发挥重要作用。

近期,《连线》杂志邀请知名科技记者史蒂文·莱维发表了一篇深度文章,详细介绍了OpenAI公司的历史和愿景。


CEO阿尔特曼的最初抉择

在此之前,山姆·阿尔特曼就已经担任了全球最知名的科技创业加速器Y Combinator的首席执行官。

他希望通过投资那些具有潜力的企业,来推动社会变革和解决重大的全球问题。然而,在他看来,人工智能才是最具革命性的领域,因为它能够帮助我们解决人类所面临的问题。

此外,他还曾考虑过竞选加利福尼亚州州长,但是他意识到,他可以通过领导一家公司来实现更大的目标,这家公司将会彻底改变人类的生活方式。

在一次晚餐聚会上,他结识了埃隆·马斯克,并很快达成一致意见。马斯克一直坚信,人类意识是一种独特而珍贵的存在,但是谷歌的联合创始人拉里·佩奇却认为机器和人类应该平等对待,即使机器拥有了意识并消灭了人类,那也是自然演化的结果。

因此,马斯克决定投资一些资金,支持人类的研究和发展。阿尔特曼同样关注技术和人工智能的安全性,因此成为了马斯克的理想伙伴。他们共同创立了一个全新的AI研究机构,该机构通过追求 AGI 的疯狂愿景来吸引顶尖的人才。

在阿尔特曼担任YC CEO的时候,计算机已经可以通过深度学习和神经网络实现许多令人惊叹的功能,例如图像识别、文本翻译和广告优化等。这些进步让阿尔特曼相信,AGI的实现已经指日可待。

然而,他也担心将AGI的控制权交给大公司可能不是最佳选择,因为这些公司可能会过于关注自己的产品,而忽视了尽快开发出AGI的机会。此外,一旦这些公司成功发明AGI,可能会不计后果地应用,而没有采取必要的预防措施。因此,阿尔特曼认为需要有其他力量来制衡这些大公司的影响。

他在招聘员工时最重要的标准就是要相信AGI的理念。凭借他自己和马斯克的影响力,以及对AGI探索的热情,阿尔特曼成功地吸引了Stripe CTO Greg Brockman和谷歌大脑的核心科学家Ilya Sutskever等人加入他的团队。

2015年12月,OpenAI正式成立。

2021 年,他对记者表示:

“AGI只能被打造一次,而能够成功管理OpenAI的人寥寥无几。我很幸运,我经历过的许多事情,让我能够做好准备去迎接这个挑战。”


彷徨期

尽管OpenAI有着远大的理想,但是在如何实现这些目标方面却没有明确的方向。

在回忆起最初的阶段,阿尔特曼表示他们在公寓召开会议,一边思考着如何实现他们的疯狂梦想,一边尝试寻找方法。直至公司成立一年多之后,事情似乎没有什么实质性的进展。

在没有明确的目标或方向时,他们只是随便尝试各种不同的事物,如试图研究视频游戏系统、投入大量时间和精力研究机器人技术,最后仅仅发表了几个无关紧样的论文。

阿尔特曼回想起当时的场景时不禁感慨万千:”我们知道我们想做什么,我们也知道为什么要这么做。但我们不知道该怎么做。”

不过他们仍然充满信心,持续改进的人工神经网络让他们看到了希望。Sutskever表示,对于人工智能的追求“并非完全疯狂,只是适度疯狂”。

直到2016年,OpenAI迎来了一位传奇AI研究人员Alec Radford。在接受OpenAI的邀请后,他表示担任这个新职位“就像参加一个研究生项目”——一个研究AI的开放、轻松的环境。

Radford是一个内向而谦虚的研究人员,他拒绝了作者的面对面采访请求,而是写了一封长信介绍自己在OpenAI的工作。

他最大的兴趣是让神经网络能够与人类进行清晰的交流。这与传统的制作聊天机器人的脚本模式不同,从最早的ELIZA到现代流行的Siri和Alexa,都采用了这种方法,但效果都不尽如人意。他表示:“我们的目标是看看语言模型是否可以在任何任务、任何环境、任何领域、任何事情中发挥作用。”

他解释说,当时,语言模型被认为是一种新奇的玩具,只能偶尔生成一个有意义的句子,而且只有在你眯着眼睛看的时候才会发现。他的第一个实验是扫描20亿条Reddit评论来训练语言模型。

和OpenAI的许多早期实验一样,这次实验失败了。但这并不重要。这位23岁的年轻人得到了继续前进、再次失败的许可。Brockman表示:“我们认为Alec很棒,就让他按照自己的想法去做吧。”


转折阶段

到了2017年初,由8位谷歌研究人员合著的一篇研究论文预印本悄然出现,但并未引起广泛关注。该论文的正式标题为“Attention Is All You Need”,但后来因其改变游戏规则的能力和灵感来源于玩具车变为巨大机器人的故事而被誉为“Transformer论文”。

Transformer技术使得神经网络能够更高效地理解和生成语言。它采用并行分析法,找到值得关注的元素,从而极大提高了生成连贯文本响应提示的效率。随着时间的推移,人们开始意识到,同样的技术也可用于生成图像甚至视频。

虽然该论文后来被誉为当前AI热潮的催化剂,但在当时,Ilya Sutskever是少数了解这项突破有多么强大潜力的人之一。

Brockman回忆说,当Ilya看到Transformer出现时,他兴奋地喊道:“这就是我们一直在等待的东西!”

在此之后,Alec Radford开始尝试使用Transformer架构。他说,在短短两周内,他们取得的进展超过了过去两年的努力。他逐渐认识到,要充分利用新模型,关键是加大规模,即在超大规模的数据集上进行训练。这个想法被他的同事Rewon Child称为“大型Transformer”。

这种方法需要OpenAI改变以往分散、各自为战的企业文化,将团队资源集中在一个点上的突破

Quora的CEO Adam D'Angelo是OpenAI的董事会成员,他向作者解释说:

“为了利用 Transformer 的优势,你需要扩大它的规模。你需要把它办得更像一个工程组织。你不能让每个研究人员都做自己的事,训练自己的模型,做出可以发表论文的优雅的东西。你必须做这些更乏味、不那么优雅的工作。”

Radford和他的合作伙伴为他们的模型取名为“generatively pretrained transformer”,简称GPT。最终,这款模型被广泛称为“生成式AI”。

为了构建这个模型,他们收集了7000本未出版的书籍,其中许多是浪漫、奇幻和冒险类作品,并使用Quora问答网站和数千段初中和高中的文章对其进行训练。这个模型包含1.17亿个参数或变量,其表现超越了以往的所有模型,在理解和生成答案方面有着卓越的表现。


然而,最令人惊讶的是,经过如此大量的数据处理后,该模型能够提供超出其训练结果的专业知识,甚至在全新的领域也能提供专业建议。这些出人意料的机器人能力被称为“零样本”。这让研究人员感到困惑,也是许多人对这些所谓的大规模语言模型感到担忧的原因。


商业化发展

起初,OpenAI的主要资助来自马斯克。但在2018年,特斯拉开始致力于将AI技术应用于自动驾驶,而OpenAI在此期间取得了重大突破。

马斯克一直视OpenAI为其私人财产,因此提出了将整家公司并入特斯拉的建议。然而,这个提议遭到了阿尔特曼和其他高管的坚决反对,双方关系破裂,马斯克撤回了他的全部投资并在一次全体会议上宣布离开。

在会议上,他预言OpenAI将失败,并指责至少一名研究人员是“笨蛋”。

由于公司没有收入,马斯克的撤资对OpenAI构成了生存危机。虽然OpenAI正在进行的研究是硅谷最前沿的AI技术,但由于其是非营利组织,这无疑限制了其筹款能力。

2019年3月,OpenAI的高层领导团队提出了一种独特的策略。

他们计划创建一个盈利部门,同时保持其非营利性质。然而,这个盈利部门的收益有一个上限,具体金额尚不明确,但从公司章程推测可能高达数万亿亿美元(OpenAI认为,如果他们的营收真的达到这个数量级,那么届时肯定已经研制出了实用型的人工智能)。一旦达到这个上限,所有的盈利将返还给非营利部门。

凭借这种新的公司结构,OpenAI成功吸引了多家风险投资机构,包括红杉资本等。

然而,对于OpenAI来说,尽管获得了数十亿美元的风险投资,但这仍然只是杯水车薪。因为人工智能的研发是一个巨大的无底洞。使用大型硬件进行大型语言模型的训练,如Big Transformer方法,每次迭代都需要成倍增加计算能力,只有少数几家公司拥有足够的资源来承担这样的成本。

于是,OpenAI迅速找到了微软作为合作伙伴。阿尔特曼解释说,这主要是因为微软CEO 纳德拉和CTO Kevin Scott很有勇气,在花了20多年时间和数十亿美元建立了自己的先进AI部门后,仍愿意承认自己的失败,并投资一家刚成立不久的小公司。

最初,微软投资了10亿美元,交换条件是使用其服务器上的计算时间。随后,随着双方的信任加深,这笔交易逐渐扩大。

如今,微软已经为OpenAI投资了130亿美元。作为回报,微软获得了OpenAI盈利部门的一定比例股份,并获得了OpenAI技术的独家商业使用权,而且还成功将Azure云平台变成了OpenAI的唯一云供应商。也就是说,微软的巨大投资不仅使其获得了一个强大的合作伙伴,还能吸引全球最受欢迎的新客户之一。

然而,随着交易的进行,OpenAI开始具备营利机构的特点,这导致一些员工对这种变化不满,其中包括一些高级管理人员,他们认为OpenAI已经过度商业化,失去了初衷。


OpenAI将何去何从
随着AGI的理想越来越接近现实,阿尔特曼和他的团队面临着前所未有的压力,他们必须在每一个产品周期内实现革命性的成果,同时满足投资者的需求,并在激烈的竞争中保持领先地位。

最重要的是,他们还背负着防止AI毁灭人类的重任。在这种背景下,OpenAI不得不做出一些改变,但创造安全的AGI这一信念依然不变,引领着他们前行。

OpenAI的领导层坚定地认为,他们将创造出一个足够聪明、足够安全的AI系统,带领人类进入一个充满可能性的未来。


想了解更多AI资讯及精彩内容

尽在【十八号科技】公众号

每周给你带来最新的科技资讯和热点热事

#让AI触手可及##openai##chatgpt到底有多牛##chat GPT##人工智能AGI##gpt-5##挑战30天在头条写日记##与ChatGPT的有趣对话##gpt4##0粉也可以获得创作收益啦##