科学家因担忧 AI 威胁人类离开 OpenAI

发表时间: 2024-05-16 00:43

OpenAI 联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)在社交媒体宣布,已经离开工作十多年的公司。他的继任者是 OpenAI 原研发总监雅库布·帕乔基(Jakub Pachocki)。后者本科毕业于波兰华沙大学,博士毕业于卡耐基梅隆大学,在哈佛大学做过一年博士后。2017 年离开学术界,开始在 OpenAI 工作,也是开发 GPT-4 的关键人物之一


OpenAI CEO 萨姆·阿尔特曼发文回应,“伊尔亚要与 OpenAI 分道扬镳了,这让我很难过;伊尔亚无疑是我们这一代最具才智的人物之一,是我们这个领域的指路明灯,也是一位亲爱的朋友。他的才华和远见是众所周知的;他的热情和同情心不那么为人所知,但同样重要。没有他,OpenAl 就不会有今天。”


OpenAI 总裁布洛克曼也发文感谢苏茨克维的付出,称其为一位艺术家:“尽管人们怀疑 AGI 是否在可预见的未来出现,但我们会仔细思考并采取行动,坚信深度学习可以带我们到达那里。”


2015 年,当阿尔特曼与马斯克决定创办一个非营利性的 AI 研究实验室时,马斯克为了把苏茨克维从 Google 挖走,不惜与 DeepMind 的 CEO 哈萨比斯决裂。苏茨克维加入 OpenAI 后,凭借其在软件系统开发方面的专业背景,领导了对 GPT 的研发。


去年 11 月,苏茨克维主导了罢免 CEO 阿尔特曼的 “政变”,但很快反悔,迎回阿尔特曼,之后便再也没有公开发声。外界普遍认为二者的分歧可能源于 OpenAI 商业化带来的安全风险。


苏茨克维是一个纯粹的技术理想主义者,认为 AI 必须永远可控,且以人类的价值观和道德规范行事,尤其是当他认识到 AI 的自主性正在迅速提升,并可能在未来超越人类。如果这样的超级智能缺乏对人类无条件的认同和爱,就可能取代甚至毁灭人类。


阿尔特曼的态度和行为则更加接近 “有效加速主义”,即相信面临颠覆式的技术创新时,最好的办法是尽快地推向市场,哪怕技术本身还不完美,实际应用和真实反馈也比无止境地研究更有价值。硅谷知名投资人马克·安德森(Marc Andreessen)和 YC 现任 CEO 陈嘉兴(Garry Tan)都旗帜鲜明地信奉这种价值观。


去年 7 月,在 ChatGPT 刚刚完成一次有明显商业化意图的大更新后,苏茨克维和另一位 OpenAI 科学家简·莱克(Jan Leike)在 OpenAI 内部成立了 “超级对齐” 团队,要用 OpenAI 至少 20% 的算力资源,来让人工智能系统与人类的价值观保持一致。这次苏茨克维宣布离职几个小时后,莱克也紧接着辞职。上个月,“超级对齐” 团队两位核心研究员还曾被 OpenAI 开除。


苏茨克维是以色列裔加拿大人,师从 2018 年图灵奖得主杰弗里·辛顿(Geoffrey Hinton)。在他的学术历程中,2012 年开发的深度卷积神经网络 AlexNet 是重要一环,它在当年的 ImageNet 挑战赛中夺冠,且精确度是第二名的两倍。AlexNet 的成功为深度学习领域的发展奠定基础,也在一定程度上影响当前 AI 领域对 GPU 的重视。


此外,他在时序预测回归模型 Seq2Seq、主流机器学习框架 TensorFlow 等自然语言处理、计算机视觉等领域都有重要的科研成果。ICLR 2024 会议为了寻找具有长期影响力的论文,审查了十年前的学术研究,苏茨克维在 2014 年的一篇论文获得时间检验奖亚军。


苏茨克维称他已有下一步计划,但并未透露更多细节。(邱豪 曾兴)