OpenAI的48小时混乱:人工智能的未来岌岌可危?

发表时间: 2023-11-20 23:22

在破晓声中,难以置信的「革命」尘埃尚未落定 - 硅谷巨头OpenAI的首席执行官Sam Altman,几天前还在首次 DevDay 上发布新版本 GPT-4 Turbo 的天之骄子,突然被赋予了前所未有的"无职一身轻"的身份。他,在人工智能革命的浪潮中,曾因矗立在潮头而成为人人瞩目的焦点。随后,更有风声传出该公司正在与他谈判回归的可能,但倏忽,他已然决定投身微软的怀抱,再也无意回头。

OpenAI官网发布领导层更换的新闻

Sam Altman与他的OpenAI

这一系列戏剧版令人瞠目结舌的变故,就发生在过去这个周末的 48 小时之内,不仅将Altman本人推上了风口浪尖,也让众多关注者开始对OpenAI这家公司产生了新的认识与疑问。这般波诡云谲的动态让人们重新思考一个问题 - OpenAI,真的只是一家科技公司吗?如果以谷歌,微软,甚至Meta等互联网时代的革命性企业作为比照,答案往往是 - 并不完全是。

处在舆论漩涡的OpenAI

重新审视 OpenAI

OpenAI,作为一家非营利组织,自2015年创立之初,就被赋予了高于一般商业机构的独特使命和精神,旨在坚守一份初心 - 抵制科技行业中无休无止的规模追求,以及那种「先行建设,再行拷问」的消费品的推出方式。这家公司的结构乍看起来近乎偏执,却无比合理,以期打造出通用人工智能(AGI)的全新范式,让其光芒普照全球人类。

OpenAI的公司使命

根据该公司的愿景,AGI将成为前所未有的高级别技术,足以在「最具经济价值的工作」领域中,胜过任何参与或竞争者,包括人类。这种可能导致灾难的强大技术,尤其需有高度负责任的人来管理。在该框架下,OpenAI更像是一个深思熟虑的研究机构或智囊团,而非常规意义上的「公司」。

OpenAI在其宪章中明确表示,它的「主要信托责任是对人类」,这种至高无上的责任和使命,无疑使其甩开了一般企业的狭隘视角,更超越了对投资者甚至员工的局限回报。在OpenAI眼中,它的真正使命,是面向全人类,为万众造福。从这个角度看,OpenAI其实是一个科技罗曼史的启示,而非寻常的商业故事。

但这恰恰就是OpenAI这家公司的独特之处,也是它被人们讨论,争论不休的原因所在。

事情起了变化

然而现实是残酷的,这种看似「异类」的模式并未维持太久。在2019年,OpenAI就推出了一家「利润上限」制度的附属公司「OpenAI LP」,意图募集资金,吸引顶尖人才,并不可避免地走向了商业产品的开发制造。然而,非营利的母公司董事会仍然掌握着绝对的控制权。

旨在盈利的附属公司 OpenAI LP

这些看似不起眼的公司运营细节,正成为OpenAI迅速崛起,以及后续Altman引人瞩目的下台埋下了关键的伏笔。Altman于上周五被OpenAI董事会解职,此举凸显出了该公司在两种截然相反的极端价值观之间的剧烈权力角力。

一方面是源自硅谷的技术乐观主义群体,受到快速商业化推动;而另一方面,却是那些深感担忧、害怕人工智能带来威胁的群体,他们强烈主张应小心谨慎地控制人工智能的开发,OpenAI 的早期投资人Elon Musk 埃隆马斯克也是这一派。长年以来,这两大阵营在争论与协作间努力并存,走过了不少风风雨雨。

埃隆马斯克是OpenAI早期投资人

据现任和前任员工透露,这旗鼓相当的平衡,大约是在一年前被OpenAI推向全球的产品ChatGPT打破的,也就是说,这场「政变」已经酝酿了一年时间。

成功的危机

从外界看来,ChatGPT似乎是一场极为成功的产品发布,其增长速度甚至超越了历史上所有其他消费者应用程序,由此,它颠覆了数百万人对人工智能自动化威胁和前景的理解。然而,这样的成功却在某种程度上动摇了OpenAI内部的理念均衡,进一步激化了已经存在的意识形态分歧。

引起轰动的ChatGPT发布

ChatGPT的大火进一步助长了产品创造和利润获取的竞争,给公司的基础设施带来压力,对负责评估和减轻技术风险的员工带来了沉重负担。这导致了OpenAI内部各个派别间的色厉内茬,如同Altman在2019年一封发给员工的电子邮件中所形容的那样「它似乎更像是一个“部落”」。

通过与OpenAI十名现任和前任员工的对话中得知,公司从那时起就开始应对从领导层开始的痛苦转型。他们的描述汇集成了一幅生动的画卷,描绘出了这家有开始具备营利性质的机构如何日渐面对商业化压力,并与公司的非盈利使命原则发生冲突,直到ChatGPT和随后的其他产品的快速推出,使得所有的压力达到了事关生死的紧要关头,并在上个周末以这样的形式爆发。

一位知情者透露,“在ChatGPT之后,迷雾散开,收入和利润都有了明确的路径。”

“你不能再只作为一个理想主义研究实验室存在。全球亿万客户们正拿着钞票期待你能提供服务。”

向钱看的ChatGPT

48 小时的战争

在微软 CEO 确认 Altman 加入微软后,围绕着Altman被解雇的具体原因,以及他未来的道路依然充满各种推测和谜团。他在今天的下午时分,前往坐落于旧金山的OpenAI总部,一方问这身份与开除他的人探讨了一些可能的交易,但显然没有大家期望的结果,Altman并没有如同预期那样返回公司重新担任 CEO,而与此同时,一些核心员工开始离职的新闻甚嚣尘上。

微软 CEO 官宣 Sam Altman 加入微软

回到上周五,董事会突然发布新闻稿,经过深入的审查过程,他们发现Altman与董事会的交流并不一贯坦诚,这导致董事会对其担任OpenAI首席执行官的能力失去了信心。OpenAI的发言人证实了这一情况,他引用了首席运营官给员工的内部备忘录说,解职和「沟通中断」有关,不是因为「渎职或与财务、业务、安全或任何相关的事情有关的」。

OpenAI董事会

尽管不能给出更多具体信息,但据知情人透露,过去一年的OpenAI内部,因为明显的方向分歧,已经使得情况混乱不堪。

在ChatGPT发布之前的2022年的秋天,整个OpenAI团队都聚焦在了开发迄今为止最强大的大型语言模型GPT-4上。团队成员们争抢时间,竞争提升这项技术,以便它能够编写流畅的散文和代码,描述图像的内容。他们全力以赴准备支持该产品必要的基础设施,并精心制定政策,明晰哪些用户行为OpenAI会接受,哪些则不能容忍。

在此过程中,OpenAI内部开始听到消息,Anthropic这个竞争对手正在研发他们自己的聊天机器人,也就是后来被Amazon亚马逊重仓投资的Claude。这从某种层面上来说依然是一种内部竞争,因为Anthropic是由2020年一批员工离开OpenAI后成立的,据传他们担心OpenAI发布产品的速度过快而对自己的产品产生影响,所以也加快了研发速度。

前 OpenAI 员工创建的 Claude

据三位内部人士透露,去年11月,OpenAI的领导层告诉员工,他们需要在几周内推出一款聊天机器人,为完成这项使命,他们指示员工基于GPT-3.5的聊天界面发布模型。

领导者们小心翼翼地把这份工作描述为「低调的研究预览」,而并非产品发布。Altman和其他高管表明,通过交付GPT-3.5,OpenAI将能收集更多关于人们如何使用和互动人工智能的数据,为GPT-4的开发提供有益的信息。

此外,这种方法也适用于该公司更大范围的部署策略,即逐步向全球发布人工智能技术,让人们逐渐开始适应与 AI 协同。一些高管,包括Altman在内,都开始持续强调同样的观点:OpenAI需要让「数据飞轮」开始转动,后来推出的GPTs允许用户提交自己的数据来训练或创造个性化的 GPT 同样也是出于这样的目的。

在准备推出GPT-4的同时,负责其他功能与服务的员工面临着攀岩般的绝望挑战。他们已经无暇分身,却必须对一项可能改变人工智能风险格局的聊天机器人进行处理。

就在几个月前,OpenAI刚刚推出了一款用来跟踪用户基础行为的新型流量监控工具。其目的是通过这款工具来了解人们如何使用其产品,以及如何降低这款工具带来的相关风险,以缓解技术可能被滥用的潜在危险。

人工智能安全问题开始浮现

而另一批人则主张,把GPT-3.5转变为聊天机器人的挑战其实并不大,因为该模型已经经过了充分的测试和完善。

大喜大悲

然而,最终那天让很多 OpenAI 员工「仓促」的时刻还是到了。11月30日,OpenAI匆匆推出了ChatGPT。这个发布活动被进行得如此低调,以至于许多并未参与其中的员工,包括安全部门的人员,甚至都没有意识到其的推出。

ChatGPT震撼发布

据一名员工称,他们曾经设立的一个投注池,用来竞猜活动推出的第一周会有多少用户使用这个工具。最高的预测是100000名用户。然而,令人震惊的是,OpenAI的总裁在Twitter上表示,这个工具在五天内就拥有了100万用户。这个「低调的研究预览」一瞬间在OpenAI内部引起了讨论,员工们纷纷制作了笔记本电脑贴纸来纪念这一刻。

ChatGPT的惊人成功让整个世界为之侧目,在花团锦簇之下却为公司带来了无比沉重的压力。随着流量的持续暴增,OpenAI的服务器一次又一次地崩溃,连研究团队的计算能力也被重新用于处理大流量的用户需求;流量监控工具也频频失灵。即使在工具恢复正常运行时,员工们也难以通过其有限的功能来详细了解用户的各种行为,从这些信息中就可以了解到当初发布后大家抱怨的服务频频中断的背后原因了。

一方面,公司内部的安全团队正在努力提供解决方案。他们在尝试提升ChatGPT的工作效率,拒绝处理某些类型的滥用请求,并以更加合适的方式回应其他请求。他们努力开发新的功能,例如为反复滥用使用ChatGPT的用户自动设置限制。

反观公司的产品开发部门,他们希望乘胜追击,大力推动产品的商业化。为此,他们雇用了数百名新员工来全力推动产品的发展。在2023年2月,OpenAI发布了ChatGPT的付费版本;3月,他们快速推出了API工具,以帮助其他企业将ChatGPT集成到他们的产品中。紧随其后的两个星期中,他们终于推出了GPT-4。

目前最强大的人工智能模型 GPT-4

分歧显现

根据公司内部的三名员工描述,这个阶段新产品大量涌现的情况使得原本就乏力的流量监控工具更加无力应对,对于ChatGPT和GPT-4这样的新产品如何集成到各个应用中,情况的复杂性使得对滥用行为的理解和阻止更加困难。

与此同时,随着大量新用户的涌入,API平台上的欺诈行为开始大量增加,他们甚至可以利用每个新账户带来的20美元的即用即付服务进行适用。减少欺诈行为已经迫在眉睫,它已经成为阻止收入损失的首要任务,并且在遏制用户通过新账户逃避惩罚的行为。

如何有效治理人工智能是一个长期课题

在压力的压迫下,部分员工开始面临着心理健康问题的挑战与威胁。公司内部的沟通也开始变得糟糕,员工们只有在注意到某位同事在Slack上消失后,才会发现他们已被解雇。

GPT-4的发布无疑加剧了安全团队的不安,他们已经在处理人工智能安全问题上进行深入探索,例如设计各种方法以确保AI模型按用户的命令行动,同时防止它们自信地发表有害言论,或者出现「幻觉」把错误信息当作事实。

由于愈发关注先进人工智能模型所带来的威胁,该团队的众多成员开始对 GPT-4 的推出和其在多个产品中的广泛整合感到疑虑与困惑,他们担忧自己在人工智能安全领域的努力与产品的应用速度相比,还远远不够。

酝酿变局

随着公司内部紧张气氛的升级,OpenAI 的首席执行官 Sam Altman 和总裁 Greg Brockman 提倡商业化的步伐,这使得该公司的首席科学家 Ilya Sutskever 对 OpenAI 是否仍坚持以非营利组织的形式管理以造福人类的AGI开始产生了疑虑。

加拿大人工智能科技大师 Geoffrey Hinton,曾经是 Sutskever 的博士导师,他表示 Sutskever 在过去几年里,因为 OpenAI 在大型语言模型的快速进展,对AGI的到来十分坚定,因此他开始更加专注于预防可能带来的危险,两人在多伦多大学多年来一直保持着密切的联系。

据了解,对于这种全能技术的到来,Sutskever 也开始逐渐变得像是一位精神领袖。他反复、热烈地宣称公司正处于「感受 AGI」的风口浪尖,这里的「感受 AGI」就是公司正站在实现最终目标的前线。

在 OpenAI 于 2022年在加州科学院举办的节日聚会上,Sutskever引领员工们高喊 「感受 AGI! 体会 AGI!」 这句口号如此受欢迎,以至于 OpenAI 的员工们在 Slack 创建了一个专门的「感受 AGI」表情符号。

感受AGI的表情符号

随着 Sutskever 对 OpenAI 技术的信心持续加深,他也开始与公司内部看重风险的同事建立更加紧密的联系。据知情人士透露,在今年一次活动中,Sutskever 委托一个当地的艺术家制作了一个木雕,象征一种「不同于人类目标」的人工智能。他点燃了这个雕像来象征 OpenAI 对其初衷的承诺。

在7月份,OpenAI 宣布了一个所谓的超级对齐团队,并由Sutskever 担任共同领导,由此表明,OpenAI 将扩大安全团队的研究规模,现有计算机芯片的20%将专门用于开发更多的先进人工智能安全技术,以便在未来十年成功达到AGI。

OpenAI 超级对齐项目

与此同时,公司其他部门正在稳步推出新产品。在超级对齐团队成立不久后,OpenAI便推出了功能强大的图像生成器 DALL-E 3。而在本月早些时候,也举办了首届“开发者大会”,期间,Altman 发布了无需编码就可以构建的定制版本 GPTs, 但问题也随之浮现。

据最新消息,OpenAI 在这一系列新产品的推出中经历了大规模工作中断,其中包括 ChatGPT 及其API。据 CNBC 报告,开发者大会后的三天时间内,微软出于安全考虑,甚至暂时限制了员工对ChatGPT的使用。

尽管面临如此情况,Altman仍坚忍不拔地前进。

在被解雇前的几天,他一直在大肆宣传 OpenAI 的持续发展。他告诉《金融时报》,该公司已经启动 GPT-5 的开发。

Sam Altman 揭露 GPT-5

“这几周来,我一直站在知识的前沿,推翻无知的面纱,”他说,“这是我一生职业的荣誉。”

据报道,Altman试图从软银以及中东投资者手中筹集数十亿美元的资金,以期建立一家可以与英伟达和其他半导体制造商竞争的芯片公司,从而减少OpenAI的成本。在一年内,Altman将OpenAI 从混合型研究型公司一步推进到到成为处于全速发展的硅谷科技公司。

ChatGPT 的不同版本以及时间线

这样的背景下就不难理解,正是这些紧张的局势促使事态不可控的在上周五出现了震惊世界的发展。

混乱仍在持续

OpenAI的章程将原则放在利润、股东和个人之上。而Sutskever代表的这部分创始人就是具有这样的信念 - 他们对AI的潜力感到担忧,在他们看来这种潜力有时仿佛跳出了科幻小说的领域,而这也构成了OpenAI 现任董事会的一部分。

但是,Altman也将OpenAI商业化的产品和筹款活动视作实现公司终极目标的重要手段。他告诉员工,OpenAI的模型还处在早期阶段,需要将其商业化以创收,从而确保OpenAI在保持一致性、解决安全性问题上有足够的资金支持;据说,ChatGPT一年的营收预期将超过十亿美元。

Altman 的离职可以被视为 OpenAI 构架中一次令人震撼的商业试验,这个试验现在可能正在动摇我们熟知的公司架构,并可能改变人工智能的演进轨迹。

虽然 Altman 已经确定加入微软,但如果未来在投资者的压力和现任员工的抵制下还有机会重新执掌公司,那么这将标志着一次巨大的权力重组。这向我们揭示,尽管 OpenAI 自我标榜着其章程和崇高的信条,但归根结底,它仍然是一家传统的科技公司,起码,在某种程度上,它身不由己。

未来可期?

本文写作期间,参与董事会赶走 Altman 的 OpenAI 首席科学家 Ilya Sutskever 在 Twitter 上已经表达出对赶走 Altman 造成如今混乱局面的懊悔,并表示会尽其所能重新团结,Sam Altman 也进行了转发,似乎消除了一些隔阂,但这一切还有转机吗?

Sam Altman 转发 Ilya 表达懊悔的推文

然而,无论 Altman 是否最终回归,这个动荡的周末已经鲜明地反映出一点:在我们这个时代最为关键的技术发展方向上,鲜有人能够真正握有绝对话语权,即使是创造出 ChatGPT 这样伟大技术的团队。

人工智能的未来,现在悬于富裕的技术乐观论者、痴迷的末日先知,以及价值数十亿美元的企业间的意识形态竞争之上。OpenAI 的命运也许尚未确定,然而,该公司的自我标榜 - 即其名字中的"Open 开放性" 已经揭示出了其自身的局限性。而这,恰恰是 Elon Musk 与 OpenAI 决裂创建 xAI 的理由。

看起来,未来未必是开放的,有极大的可能将在一种「封闭」状态中决定。

OpenAI是否还有未来?