董事会决定“何时达到AGI”
在当代公司治理中,董事会的主要职责是制定战略和监督高管(主要是CEO)。OpenAI的运作模式却稍有不同。在重组文件中的某个条款中,有这样一句话:如果公司成功创建了AGI,所有财务安排将会重新考虑。
而如何算是成功创建了AGI?OpenAI给我们的答案是:董事会说了算。
在OpenAI的官网上,有一篇文章叫作《我们的架构》(Ourstructure),里面第五条赫然写着:董事会决定我们何时达到AGI。
一旦董事会决定AGI已经达到,这样一个系统将“被排除在与微软的IP许可证和其他商业条款之外,因为这些条款仅适用于AGI技术之前的技术”。
但里面有一个巨大的漏洞,那就是没有人知道如何定义AGI。在那篇文章里,对于AGI是这么解释的:AGI指的是在大多数最具经济价值的工作中表现优于人类的高度自主系统。
这个定义实在太模糊了,多少算“大多数”?什么样的工作是“最具经济价值的工作”?
有记者专门问过奥尔特曼,他的回答含糊其词:“这不是一个单一的图灵测试,而是基于多种因素的综合考量。”奥尔特曼故意卖关子:“我明白这样的表述很模糊,但现在我们还不知道具体情况会怎样。”
终于,董事会内部脆弱的平衡在2023年随着3位董事会成员的离开而被打破。截至“政变”发生前,OpenAI董事会成员变更见表格。
OpenAI董事会成员变更(截至“政变”发生前)
董事会成员 | 简介 | 加入时间 | 离开时间 |
奥尔特曼 | OpenAI创始人、CEO | 2015年12月 2024年3月重返董事会 | 2023年11月,“政变”事件中被解职 |
马斯克 | 特斯拉和SpaceX的CEO,OpenAI联合创始人之一 | 2015年12月 | 2019年2月 |
布罗克曼 | Stripe联合创始人、CTO,OpenAI联合创始人之一 | 2015年12月 | 2023年11月 |
苏茨克弗 | OpenAI联合创始人之一,首席科学家 | 2015年12月 | 2024年5月 |
里德·霍夫曼 | 领英联合创始人,OpenAI首批投资者之一 乔治城大学安全与新兴技术 | 2018年 | 2023年3月 |
海伦·托纳 | 中心主任,此前曾在开放慈善基金会工作 | 2021年9月 | 2023年11月 |
塔莎·麦考利 | 兰德公司兼职高级管理科学家,EffectiveVentures的英国董事会成员 | 2023年初 | 2023年11月 |
亚当·丹吉洛 | Quora联合创始人、CEO | 2018年4月 | |
希冯·齐里斯 | 人工智能专家,与马斯克长期合作并有私人关系 | 2019年 | 2023年3月 |
威尔·赫德 | 前共和党国会议员 | 2021年5月 | 2023年7月 |
首先是霍夫曼,他不但是OpenAI营利实体的最早投资人,也是OpenAI与最大外部股东微软之间的重要桥梁。因为要投资另外一家AI公司,霍夫曼担心可能会引发利益冲突,于是他在2023年3月退出了董事会。
因为马斯克,希冯·齐里斯与OpenAI的关系恶化,也在3月退出了董事会。
紧接着,前共和党联邦众议员威尔·赫德因宣布参加2024年美国总统竞选,在7月退出了董事会。从公开采访来看,赫德一直积极推动各方拥抱AI技术,他应该也是奥尔特曼的盟友。
可以说,如果霍夫曼和赫德还留在董事会,“政变”就不可能发生。
这样,董事会只剩下了6个人。除了存在理念差异之外,还有一点就是他们都很年轻,6个人中没有一个人超过40岁。以至于保罗·格雷厄姆在事发后暗讽OpenAI的董事会是“淘气的孩子”。
随着ChatGPT的推出以及OpenAI在资金方面越来越大的需求,一路狂奔下的OpenAI董事会内部开始出现摩擦。
先是麦考利试图作为董事会成员与员工建立联系,并经常与OpenAI高管交谈,却未告知奥尔特曼。奥尔特曼似乎对此很不满,于是有一天,奥尔特曼告诉麦考利,如果董事会成员与员工交谈,他需要被告知。据知情人士称,一些董事会成员认为这是奥尔特曼在限制董事会的权力。
2023年9月,奥尔特曼前往中东会见投资者,讨论一个人工智能芯片项目。但他未与董事会分享全部计划,董事会对此感到不满。
10月,奥尔特曼提拔了研究员雅各布·帕霍奇(Jakub Pachocki)为研究总监,与苏茨克弗同级,苏茨克弗认为这是对他的一种轻蔑。苏茨克弗向董事会诉苦,指责奥尔特曼喜欢让员工相互对抗,或向两位不同的高管承诺资源和责任的管理方式。
据两位了解此事的知情人士称,苏茨克弗告诉了几位董事会成员他可能会辞职。这些人说,董事会将这一举动解释为在他和奥尔特曼之间做出选择的最后通牒。紧接着,奥尔特曼和另一位独立董事托纳也发生了冲突。当时托纳发表了一篇学术论文,推崇OpenAI的竞争对手Anthropic的安全实践。
据知情人士称,奥尔特曼和一些OpenAI高管对此很不满,他打电话给托纳称她损害了OpenAI的利益。托纳解释说,她是为学术观众写作,没有预料到会有更广泛的公众关注这篇论文。但奥尔特曼告诉她,与公司有关的一切都会被媒体报道。托纳道歉,表示希望自己在写作时措辞更佳。
奥尔特曼接受了道歉,他后来给OpenAI的高管们发了电子邮件,告诉他们他已经训斥了托纳女士。
但事情并未就此结束,据知情人士透露,奥尔特曼开始单独接触其他董事会成员,讨论替换托纳。但要达到目的,奥尔特曼必须获得至少另外3名董事会成员的支持。于是,奥尔特曼打电话给其他董事会成员,称麦考利女士想要将托纳女士从董事会中撤职。后来董事会成员询问麦考利女士是否属实,她回答说那是“绝对虚假的”。
熟悉董事会内部讨论的人士透露,奥尔特曼会在其他人的想法上撒谎,让他们互相争斗,这样的情况已持续多年。
奥尔特曼后来承认,他试图让托纳下台的方式很笨拙,但他没有企图操纵董事会。
很可能正是在那之后,托纳和苏茨克弗开始酝酿撤换奥尔特曼。托纳和苏茨克弗并不熟悉,但两人的学术背景可能让他们有更多的共同语言,而对奥尔特曼的不满最终让他们结成联盟。
此后,两人开始联系另外两位董事会成员麦考利和丹吉洛。
麦考利和托纳都是“人工智能治理中心”(GovAI)顾问委员会的成员,该中心部分资金来自开放慈善基金会。她们很可能之前就熟悉彼此,而且在意识形态上高度一致。
至于丹吉洛,他虽不是有效利他主义者,而且是奥尔特曼多年的朋友,但最终却背叛了奥尔特曼。具体原因,我们将在第九章详述。
4人故意向布罗克曼隐瞒了行动,因为他们知道获得布罗克曼支持的可能性几乎为零。而且当前的董事会共有6人,他们4人已经代表了董事会的多数。
奥尔特曼此时还蒙在鼓里,而外界对此更是一无所知,自从上一章描述的“硅谷宗教战争”打响后,硅谷就一直在传言有效利他主义者已经渗透进了OpenAI董事会。在“政变”发生前的两个月,OpenAI的发言人还告诉一位记者:“我们的董事会成员中没有一个是有效利他主义者。”这位发言人还补充道:“独立董事都不是有效利他主义者,他们与有效利他主义社区的互动主要集中在与AI安全相关的话题上。”
但这显然不是事实,有效利他主义不仅存在于OpenAI的董事会,而且已经控制了董事会。
这一次董事会的奇袭,实际上是“硅谷宗教战争”的延续。
权力的游戏徐徐拉开帷幕。
密室里的烛光斧影,正明暗闪烁。
“公司的毁灭可能符合董事会的使命”
奥尔特曼被解职的消息震惊了全世界,也引发了大量猜测。据路透社报道,在奥尔特曼被罢免的前几天,OpenAI的几位研究人员曾致信董事会,向董事会警告他们发现了一种强大的AI技术,可能会威胁人类。这项技术来自内部一个名为Q*(发音为Q-Star)的项目,OpenAI的一些员工认为Q*已显示出接近人类的高级推理能力,可能意味着AGI出现了重大突破。
这也对应上了11月16日奥尔特曼在APEC会议上说的“推开无知的面纱。
而在X平台上,“伊利亚看见了什么”成了一个流行的梗图,广为流传。
一位名叫杰弗里·欧文(Jeffrey Irving)的前OpenAI员工也在X平台上发声,他声称尽管奥尔特曼对他个人态度友好,但在不同场合下都对他撒过谎。欧文还指出,奥尔特曼对他所认识的其他人也进行了欺骗和操纵。然而,当被要求提供更多细节或澄清事实时,欧文选择了沉默。
这份公告在公司内部投下了一颗炸弹。几小时后,公司总裁布罗克曼在X平台上宣布辞职,有传言称,更多的人正准备追随布罗克曼的脚步。
临时CEO穆拉蒂和苏茨克弗不得不召开一次全员大会来解释情况。
11月17日,周五下午2点,会议在线上召开。一开始,多名员工就向苏茨克弗追问奥尔特曼被解雇的原因。苏茨克弗拒绝透露详情。
“这是一场‘政变’。”一名员工喊道。
紧接着,苏茨克弗为自己辩解:“我可以理解你为什么选择这个词,但我不同意。”他坚称,解雇奥尔特曼是为了保护OpenAI的使命,但他也承认整个过程并不体面。
OpenAI的员工们不依不饶,要求公布更多细节。苏茨克弗表示,奥尔特曼对董事会说谎,但由于法律原因,他们无法详细说明。
苏茨克弗漠然回应:“你可以这样称呼它。”
全员会议结束后,大约15名OpenAI的高管聚集在公司总部会议室里继续开会,几名独立董事从各地通过电话远程参与。会议室内的气氛剑拔弩张。一名高管直截了当地告诉苏茨克弗,缺乏细节是不可接受的。高管们不断追问董事会关于奥尔特曼缺乏坦诚的具体例子。但董事会表示,奥尔特曼表现得如此巧妙,以至于他们无法给出一个具体的例子。
一些高管甚至用威胁的口吻表示,监管机构和执法机构(如曼哈顿美国检察官办公室)将会对他们提出质疑。董事会可能要承担法律后果。
OpenAI的首席战略官贾森·关(Jason Kwon)指责董事会违反了其受托责任。他说:“让公司倒闭不可能是你们的职责。”
托纳冷冷回应:“公司的毁灭可能符合董事会的使命。”
高管会议之后不久,苏茨克弗还召集了他领导的OpenAI研究团队开会。据一位知情人士透露,为了安抚员工,苏茨克弗特别提到,虽然奥尔特曼已经离职,但布罗克曼和刚被奥尔特曼晋升的研究总监雅各布·帕霍奇仍是OpenAI拥有的重要资产,OpenAI未来的道路仍然一片光明。
但是在几个小时内,上述两人都提出了辞职,还有两名高级研究员亚历山大·马德里(Aleksander Madry)和西蒙·西多尔(Szymon Sidor)也加入了离职行列。
这下轮到苏茨克弗震惊了,多年象牙塔的生活似乎让他更善于跟机器打交道。他不理解为什么公司上下会对于董事会的决定如此不满。在他看来,人脑跟机器一样,只要输入足够多的数据,就能得到想要的结果。
更糟糕的是,苏茨克弗的弱点恰好是奥尔特曼的优点――善于笼络人心和利益绑定。
与苏茨克弗的纯粹理想主义相比,OpenAI的大多数员工更关心自己的切身利益,他们的利益已经跟OpenAI和奥尔特曼深度绑定。有报道称,奥尔特曼正在跟投资机构兴盛资本商谈一项OpenAI员工股权出售的交易,交易金额高达10亿美元,这也将使OpenAI的估值达到860亿美元。兴盛资本原本预计将签署员工股份的收购要约,但尚未付款。交易一旦完成,将会造就一批一夜之间成为百万富翁的新贵。但“政变”发生后,兴盛资本明确告知OpenAI,奥尔特曼的离职将对此次交易产生影响。因此,一些原本计划参与要约收购的OpenAI员工开始担心,这场“政变”可能会威胁到这个可能改变他们一生的收益。
苏茨克弗召开的会议不得不草草收场。
而到了晚上,在公司内部的Slack工作群里,许多员工彻夜未眠。他们显然对全员会议上苏茨克弗的解释并不满意,于是在群里进行了一轮又一轮的狂轰滥炸。
“到底发生了什么?”大家在群里质问董事会。
奥尔特曼已被解职并被踢出了群聊,布罗克曼也已辞职退群。群里唯一剩下的董事会成员苏茨克弗却默不作声。
OpenAI首席运营官布拉德·莱特卡普试图在公司范围内平息猜测的火焰。
莱特卡普是奥尔特曼的长期下属,两人在YC时代就曾一起共事。当时,莱特卡普主要负责考察一些硬科技项目,如核聚变反应堆、量子计算机、自动驾驶汽车、卫星等。OpenAI成立以后,莱特卡普花了很多时间和布罗克曼以及苏茨克弗交流。
后来,奥尔特曼让莱特卡普帮忙为OpenAI招聘首席财务官,但当时OpenAI作为一个规模较小的非营利组织,并没有多少人愿意担任这个职位。莱特卡普尝试联系了大约25个人,但结果都不尽如人意。于是,莱特卡普只好自己先在晚上和周末帮忙打理一些OpenAI的财务工作,很快这就变成了他的全职工作。
这场“政变”发生后,莱特卡普在凌晨发了一封全员邮件。他写道:
在昨天的公告之后,我们所有人都感到震惊,我们已经与董事会进行了多次对话,试图更好地理解他们做出决定背后的原因和过程。关于我们未来道路的这些讨论和选择,将在今天上午继续进行。
我们可以很明确地说,董事会的决定并非是针对不端行为或与我们的财务、业务、安全或安全/隐私实践有关的任何事情而做出的。这是山姆和董事会之间沟通失误所致。
我们公司的地位仍然非常稳固,微软对我们的合作伙伴关系保持完全承诺。(临时CEO)米拉拥有我们的全力支持。我们同样关注这一过程的处理方式,并正在努力解决这一情况,我们将在能够提供更新时进行通知。我相信你们都感到困惑、悲伤,可能还有些害怕。我们正全力以赴地处理此事,努力达成解决方案并澄清事实,同时尽快恢复正常工作。目前,我们共同的责任是向队友、合作伙伴、用户、客户以及与我们共享AGI愿景的更广泛的世界负责。坚持下去,我们1000%支持你们所有人。
临时CEO穆拉蒂也发了一封内部邮件,邮件中她告诉OpenAI的员工们,公司接下来的重心有3个方面:“最大限度地推进既有的研究计划;最大力度推进安全工作,特别是增强预测风险的能力;以造福所有人的方式与世界分享技术。”
但很显然,高管们的说辞并没有平息员工们的怒火和外界的各种猜测。
11月17日,午夜,旧金山
奥尔特曼终于回到了旧金山的家中,由于收到太多的短信,他的iPhone已经死机了。
一个月后,奥尔特曼在喜剧演员特雷弗·诺亚(Trevor Noah)的播客节目中回忆了当时的心情:
感觉像是一个梦。我感到困惑。一切混乱不堪。感觉不真实。显然是……痛苦。但当时困惑只是主要的情绪,就像我置身于雾中、恍惚之中。我唯一能比拟的生活经历,就是我父亲去世时的情景。当然,那个经历要糟糕得多。
奥尔特曼诉说的时候眼里泛着泪花。
11月17日的午夜时分,奥尔特曼从深陷的沙发上抬起头,透过巨大的落地玻璃,他看到山脚下的灯光渐渐变暗,整个城市都放慢了呼吸。
奥尔特曼拿起手机,发现手机又可以工作了。他的团队很多人给他发了信息。
不要放弃,我们要一起战斗!
远处传来了进港的轮船汽笛声,似乎是战场上的号角。奥尔特曼打开X,发布了一条消息:
我爱你们所有人。
今天在很多方面都是一次奇怪的经历。但一个意想不到的体验是,这有点像在你还活着的时候读自己的悼词。这种爱如潮水般的涌现真是太棒了。
一个收获是:去告诉你的朋友们,你觉得他们有多棒。
睡前,奥尔特曼想起他不久前在一次活动上背诵的雪莱的一首诗,他当时说:
有一首雪莱写的诗叫作《奥兹曼底亚斯》,它描述的是在沙漠中一座雕像的残骸,这座巨大的国王雕像已经倒塌,成为废墟,孤零零地矗立在那里,只剩沙子。雕像上铭文依稀可见:“我是奥兹曼底亚斯,众王之王,瞧瞧我的伟业,威武的人们,绝望吧!”
有很多初创公司的创始人会在某个时刻觉得自己是世界上最重要的事物,他们的公司将会非常了不起。这些终将一事无成的创始人,却有着永恒的感觉——我将成为最重要的人,我的公司将成为最重要的公司,我们将取得巨大的成功,我是众王之王,瞧瞧我的伟业,绝望吧。
其实每个人最终都会陷入废墟,但创业公司往往会很快做到这一点,命运也会迅速改变。
本文经湛庐文化/浙江科学技术出版社授权,文摘自周恒星 著《奥尔特曼传》。