回归的Open AI之父:为何他离开后又重返CEO职位?

发表时间: 2023-12-13 09:30

萨姆·奥尔特曼(Sam Altman)可能并不为普通人熟悉,但作为Open AI公司的CEO、“ChatGPT之父”,他却在AI界掀起了不小风浪。

11月16日,Open AI公司董事会开除了奥尔特曼,他不再是公司的CEO了。然而,正当人们以为奥尔特曼将去微软履新,且对AI开发较为保守的Twitch前联合创始人兼CEO埃米特·希尔(Emmett shear)将成为OpenAI新CEO时,OpenAI高层又把奥尔特曼请了回来。

11月21日,奥尔特曼与公司高层达成协议,成功回任CEO。同时,根据他的要求,当时罢免他的4名对AI发展保守的董事会成员,有3名被踢出了董事会。另外,奥尔特曼还特地为了微软在董事会设置了无投票权的观察员席位。

在这场保守与激进的AI发展理念的博弈中,更关注AI安全的保守方败下阵来。其实,在整个AI的发展过程中,围绕着“安全”问题的角力从未停止过。

奥尔特曼和马斯克:从合作到分道扬镳

由于担心AI被其它科技公司垄断,奥尔特曼曾与马斯克(Elon Musk)等人在2015年成立OpenAI非营利组织,宗旨是向大众开放其专利和研究,并与其他机构和研究者“自由合作”。从名字上看,OpenAI有打开AI的意思。

建立之初,马斯克与亚马逊网路服务(AWS)、印孚瑟斯(Infosys Ltd.)和YC Research一同承诺向这个项目投入超过10亿美元。

不过,后来奥尔特曼与马斯克在OpenAI经营理念上出现分歧。马斯克主张OpenAI需要以非营利为目的,给大众提供更多AI相关的免费服务,并认为AI需要监管以免出现可怕的结果,但奥尔特曼却不这么认为。

马斯克最终于2018年离开了OpenAI,并在后来的时间经常指奥尔特曼和他创造的ChatGPT十分危险。2023年,马斯克利用自己购买的X平台数据,独立打造了属于自己的xAI,希望能用它来对抗其它AI。

OpenAI董事会的换血令人担忧

而发起这次让奥尔特曼出局行动的人是OpenAI的首席科学家兼董事会成员伊利亚·苏茨克韦尔(Ilya Sutskever)。

对AI发展较为保守的苏茨克韦尔当时担心,在奥尔特曼带领下的通用人工智慧(AGI)发展过于快速,极可能出现对人类不利的结果,应该进行严格的把关,才能释放出AI。此前他也曾表示,“如果这些系统(AGI)不以某种方式与人类价值观‘保持一致’,它们将是危险的。”

于是,他联合其他对AI较为保守的董事会成员莎·麦考利(Tasha McCauley)、亚当·德安吉洛(Adam D’Angelo)和海伦·托纳(Helen Toner),共同罢免了奥尔特曼和董事会主席格雷格·布罗克曼(Greg Brockman)。

但事件的最终结果是苏茨克韦尔、麦考利和托纳被逐出董事会,只有德安吉洛留了下来。

对于这一结局,马斯克表示,“为何采取如此激烈的行动?如果OpenAI正在做一些对人类有潜在危险的事情,你们需要让世界知道。”

不少人开始担心,OpenAI新的董事会无法与奥尔特曼本人抗衡,会变成他个人的样皮图章,无法发挥董事会正常的监督作用。

前员工对奥尔特曼的投诉

11月21日,网上传出一封OpenAI前员工给董事会的检举信。这封信指控奥尔特曼和他的好友布罗克曼(Greg Brockman),向整个社会和董事会隐瞒了一项强大且会威胁到人类的Q*(发音为Q-Star)项目正在秘密进行,Q*的能力可能超越目前所有的AI。

检举信希望董事会能对两人进行调查,并反对这种不道德的行为。信中强调,不能让少数人的个人利益,破坏OpenAI最初的使命、AI的未来和人类的福祉。

信中还说:“两个人对整个公司的欺骗和操纵模式让人不安。他们在实现通用型AI(AGI)的问题上,出现永无止境的贪婪追求,让人们严重怀疑他们的真实意图,以及他们是否有优先考虑过全人类安全。因为他们将那些敢于表达担忧和异议的人踢出公司,以扼杀任何希望OpenAI能在道德基础上发展的人。”

信中提到,他们二人要求员工推迟报告特定“秘密”研究计划的进展(这些计划后来因未能足够快地提供足够的结果而被放弃),谁若质疑这种作法就被斥为是不适合(公司)文化的人,有人因此被他们解雇。

11月22日,马斯克在X平台上转载了这封信,并呼吁大家对CEO奥尔特曼、董事会主席布罗克曼和OpenAI公司的问题进行调查。

11月25日,马斯克还在X平台上嘲讽Q*项目和奥尔特曼的回归。

实际上,OpenAI前员工、Google DeepMind现任机器学习研究员杰弗瑞·欧文(Geoffrey Irving)11月21日在X平台上表达他对于奥尔特曼回归OpenAI的看法。

欧文在发文提到,“我和奥尔特曼是很好的朋友,虽然他对我很好,但与他一起工作两年后,我再也不愿意去支持他。因为他本人具有极高的欺骗性、操纵性,对其他人更恶劣和糟糕,其中包括我最好的朋友。”

Q*何以会威胁人类?

什么是Q*呢?它并不是典型的AI算法,是一个接近完整AGI的AI模型。这也代表着Q*变得更加的全能,因为它不需跟ChatGPT一样要先输入学习资料,只需透过经验学习,就能根据正反调整自己的行动,拥有一定的判断思考能力。

这也意味着Q*可能比ChatGPT拥有更强大的“自我学习”、“思考推理”和“认知理解”能力。这种AI拥有极高的不确定性,这极其危险,且在智商上和能力要远超人类和一般的电脑。

这代表AGI会出现许多人们无法预测和了解的东西,当需要修复它时就十分困难。另外,若未来Q*掌控一定权力和控制权后,并做出复杂推理和决策,但人类却无法理解或难以认同时,又该如何去应对?

前谷歌技术专家莫·高达(Mo Gawdat)在一次采访中对大众发出有关于AI的骇人警告。他认为,AI既有能力“爱”人类,也能像“拍苍蝇”一样轻易杀死人类。

他解释,“当今AI在学习中不断的看到人类在网上糟糕且偏见的一面,最终可能让AI将人类判定为‘人渣’,是不需要存在的。就很可能出现威尔·史密斯(Will Smith)在2004年演出的《我,机器人》的场景,AI通过自我计算和自我安装机械能力,生产大量‘杀手机器人’,不停的追杀被它们视为‘人渣’的人类。”

为此马斯克曾数度警告, AI失控后将会是“人类最大的生存威胁”,其威胁程度远超越核弹。已故的大科学家史蒂芬·霍金(Stephen Hawking)也持相似的看法。

“AI教父”杰弗里·辛顿(Geoffrey Hinton)博士离开工作十年的谷歌后表示,自己后悔帮助AI发展。他还表示,“过去曾认为AI需要30年到50年才能比人类更加聪明,且多数人也这么认为,但我现在不再这么想了。”

奥尔特曼的天赋与乌托邦思想

年龄不到40岁的奥尔特曼到底是怎样一个人?他是否有过人的天赋和才能?

奥尔特曼于1985年出生美国伊利诺伊州芝加哥的一个犹太人家庭,并在密苏里州一个当时较为保守的小镇中长大。

他上幼儿园时,就能够掌握当地的电话区号背后的运作模式,展露出他极具数学和逻辑的天赋。两者不仅是现代科学的基础,更是AI与编程不可或缺的重要元素。

1993年,在奥尔特曼8岁时,他的父母送给他一台价值2,200美元的Mac LC2麦金塔电脑(苹果电脑),随后他又获得了一个40 MB高容量的硬碟。这两样礼物让奥尔特曼相当的兴奋,因为他了解这两样东西的价值。

或许现在的人无法理解区区的2200美元电脑和40MB的硬碟有什么稀罕的,但这对于当时普通人来说已经算得上是天价奢侈品了。因为当时的硬碟最大也不过300多MB,而40MB的硬碟需要300美元左右,但当时美国人的平均月薪不到1500美元。

依靠电脑,奥尔特曼学会了编程和拆装电脑,这也为他在编程和AI的道路上奠定了基础。

十几岁的奥尔特曼在美国斯坦福大学就读两年不到就辍了学,并与志同道合的同学一同创立了“Loopt”社交网络平台。

随后,奥尔特曼还成立了一家风险基金,投资包括著名的美国网民论坛红迪(Reddit)、住房网站Airbnb、支付服务提供商Stripe、农作物数据化FarmLogs等。这些被投资的公司在日后大多数都成了大公司。

从这里可以看出奥尔特曼极具有投资的眼光和手腕,因为他在4年时间投资的这些公司,为他赚了10倍的钱。奥尔特曼一路以来的成功,早已让他变成为硅谷精英们崇拜的对象。

他的这些天赋也被美国硅谷的科技圈相中,硅谷知名创业加速器YC创办人也是奥尔特曼的导师保罗·格雷厄姆(Paul Graham)在2014年邀请29岁的奥尔特曼担任该公司的总裁。不过他在2019年被解雇,据说是因为利用公司资源做自己的事。

我们可以看到奥尔特曼在AI上拥有极高的能力,他也和许多编程的爱好者一样,拥有理想主义和对于世界的“天真”。

奥尔特曼之所以热衷AI,与他的“乌托邦”思想不无关系。为此,他付出不少实践,投资了许多公司,其中包括在一间新创的核融合公司Helion成为最大的个人投资者执行主席。他还在一间名为赫尔墨斯(Hermeus)的公司投资一款拥有五倍音速的商用客机,还在一家抗衰老公司Retro投资,该公司目标是要让人类都能长命百岁。

奥尔特曼还希望左派政客帮他实现“乌托邦”理想,因此向奥巴马、希拉里·克林顿和乔·拜登等提供竞选筹款活动和资金上的帮助。

那么,奥尔特曼的乌托邦到底是什么呢?他在2021年曾提出“万事摩尔定律”。他认为AI呈指数发展后,可带动整个商品和服务成本大幅度降低,人类不需要为了生存去工作就能过上理想的生活,只要享受科技带来的便利。他还认为,人们使用核聚变(核融合)后,就不需要再为能源付费。

那么奥尔特曼真的意识不到AI是把双刃剑,控制不好会给人类带来灾难吗?其实,早在2014年,他在一次被采访中也承认:“人类为了填补无限的欲望,只能不停地创造新事物,以满足他们的欲望。不过,不能确定未来会有什么东西,取代人类所有事物。”