苏茨克韦尔，OpenAI领军人物：对人工智能持谨慎态度的科学家选择离开

参考消息网5月21日报道德国《时代》周报网站5月15日刊登题为《曾想保护我们免受超级人工智能侵害的人》的文章，作者是蒂图斯·布洛梅。文章摘编如下：

伊利亚·苏茨克韦尔在一场可能是近年来最重要的科技权力斗争中扮演了重要角色，从那至今仅过了半年。

2023年11月，开放人工智能研究中心(OpenAI)联合创始人、首席执行官以及代表性人物萨姆·奥尔特曼出人意料地被董事会解雇。对此负有责任的董事会成员中就有苏茨克韦尔。经过数天反复以及员工和投资者反对，奥尔特曼又回来了。

“政变”后淡出

5月14日，这家聊天生成预训练转换器(ChatGPT)背后的企业宣布，首席科学家苏茨克韦尔将要离开。这对许多人来说并不那么意外：首席科学家和首席执行官虽然事后公开和好，但从那以后，苏茨克韦尔的职位一直不稳。他基本退出公众视野。

14日晚上，苏茨克韦尔在社交平台X上发文：“我已经决定离开OpenAI。”他正在筹备一个“对自己而言意义重大”的项目。奥尔特曼在自己的动态中写道，感谢苏茨克韦尔所做的一切。他会坚决“完成两人共同开创的使命”。

不过，我们不确定这是否还是这两位前同事追求的那个使命。据称，苏茨克韦尔参与去年11月那场“政变”的主要原因之一，是他担心奥尔特曼过于激进和轻率地对待人工智能这一强大的技术。后者此前一直都高歌猛进，推动着新人工智能产品的开发和发布。

据称，苏茨克韦尔本人更为谨慎。他在英国《卫报》去年的一部纪录片中说，自己坚信人工智能可以解决人类当前的所有问题，但这项技术也将制造出新问题：恶劣的网络攻击、全自动武器和假新闻泛滥。如果一种比人类更聪明、更有能力的超级人工智能——通用人工智能(AGI)——被以错误的方式开发出来，它可能会“将自己的生存置于所有其他事物之上”，尤其是置于我们人类的生存之上。

OpenAI在2015年成立时本来是为了限制此类风险。这家最初的非营利组织自称其“最重要的托管义务”面向“全人类”，并希望以负责任、审慎的方式开发人工智能。即使2019年单独成立部分以利润为导向的子公司开放人工智能研究中心全球公司(OpenAI Global)，以便更高效地募集投资，这一使命也应延续。董事会的任务是监督执行情况，并在必要时进行干预。

2023年11月，当部分董事会成员执行上述任务，计划撤换在他们看来明显过于迎合市场的奥尔特曼时，主要投资者微软等相关方表示反对。最终，奥尔特曼回归，权力也更大了。这让人清醒地认识到，董事会早已在很大程度上失去对这家以利润为导向的子公司及其首席执行官的控制。

如果说迄今为止OpenAI仍被期望继续完成其最初使命的残余部分，那么随着苏茨克韦尔的离开，“谨慎派”最终将淡入幕后。简·莱克也同时在社交平台X上公开宣布辞职。莱克和苏茨克韦尔曾经是OpenAI“超级对齐”团队的联合领导人。在人工智能领域，“对齐”指的是尝试用正确的价值观(即人类价值观)对人工智能进行编程。这样做的目的是为了避免可能出现科幻小说中恶意机器带来的那种世界末日场景。OpenAI的20%可用算力被用于该项目。然而现在，苏茨克韦尔和莱克都被去年11月站在奥尔特曼一边的员工所取代。现在，奥尔特曼很可能已经最终控制了公司，公司的优先事项很可能将继续转向商业。

商业击败理想主义？

奥尔特曼的计划很宏大。

美国《华尔街日报》今年2月报道称，奥尔特曼正在寻求总额7万亿美元(不是70亿美元！)的投资来生产AGI及其所需的算力。显然，钱从哪里来并不那么重要。报道称，奥尔特曼还与阿联酋沟通。他似乎非常专注于以任何可能的方式开发AGI。他最近在斯坦福大学的一次演讲中表示，他并不关心“我们是否每年烧掉5亿美元、50亿美元还是500亿美元”。他说，这是值得的，因为这将创造AGI。尽管奥尔特曼作出保证，但在人工智能领域，超级智能的可能性仍存在很大争议。

苏茨克韦尔离开OpenAI可能意味着奥尔特曼将更积极地追求他的目标。然而，这并不意味着人工智能的发展完全由市场来决定。正如奥尔特曼与阿拉酋的对话以及他的其他评论所表明的那样，自由市场只是一种可能的资本来源：民族国家最终可能是唯一拥有足够资源为未来几代人工智能提供资金的参与者。根据美国人工智能研究所的一份报告，人工智能已经成为新的全球产业政策的重要组成部分。

美国和欧盟都启动了重大投资计划，以促进本国对人工智能发展至关重要的半导体芯片的发展——算力仍然是地缘政治上敏感的瓶颈，因为世界上最好的芯片主要是在中国台湾制造的。印度、南非和阿联酋等国也制订了自己的投资计划和法规，以促进本国技术的发展。包括谷歌前首席执行官埃里克·施密特在内的一些人甚至认为，美国和中国之间正在进行人工智能军备竞赛。因此，市场和民族国家可以在许多地方同心协力。这一点也可能变得很重要，因为目前似乎还没有一家纯粹的人工智能公司为这项技术找到真正有利可图的商业模式。

对奥尔特曼来说，苏茨克韦尔的谨慎似乎主要有商业利用价值。无论如何，苏茨克韦尔经常遭到这样的指责：他对超级智能的力量发出警告，主要是为了监管人工智能并让竞争对手更难迎头赶上，或者是为了让政客们关注遥远的世界末日场景，而不是失业和人工智能产生的虚假信息等实际问题。如果批评者说的是准确的，那么商业早已击败了理想主义。

这并不意味着从现在起一切都会以指数级的速度变快：在训练数据、算力和能源供应方面仍存在严重瓶颈，可能会延缓这一进程。此外，AGI能否诞生也仍然是个未知数。不过，在苏茨克韦尔离开后，这些物质障碍似乎成为人工智能发展的最后障碍，至少在OpenAI是如此。否则至少从现在起，座右铭将是：勇往直前，而不是小心翼翼。（编译/梅鹏鹏、聂立涛）