震惊!OpenAI解雇了这位提出安全问题的员工!

发表时间: 2024-06-05 15:16

据报道,OpenAI 安全研究员莱奥波德-阿申布伦纳(Leopold Aschenbrenner ) 今年早些时候因"泄密"被解雇, 现在他提出了自己的说法。本周二,阿申布伦纳在接受 Dwarkesh Podcast 采访时说,OpenAI 告诉他,他是因为向公司董事会提出安全问题而被解雇的。阿申布伦纳还因为分享了一份OpenAI声称包含敏感信息的文件而被解雇,但他否认了这一指控。

阿申布伦纳说,在他向董事会提出对 OpenAI 安全措施的担忧之后,他第一次收到了 OpenAI 人力资源部门的正式警告。"我写了一份关于 OpenAI 安全问题的内部备忘录,我认为 OpenAI 的安全措施严重不足,无法防止外国行为者窃取模型权重或关键算法机密。"阿申布伦纳说,他"与几位同事和几位领导层成员分享了这份备忘录,他们大多表示这份备忘录很有帮助。"

几周后,OpenAI 发生了一起重大安全事故,促使他"与几位董事会成员分享了这份备忘录"。但他很快遭到了训斥。他说:"领导层非常明确地告诉我,他们对我将这份备忘录告诉董事会感到非常不满。显然,董事会就安全问题向领导层发难。"

阿申布伦纳说,他因此受到了"正式的人力资源警告"。虽然他没有立即被解雇,但 几个月后他被解雇时, 公司告诉他这件事是一个诱因。阿申布伦纳说:"当我被解雇时,公司非常明确地告诉我,安全备忘录是我被解雇的主要原因。他们说,'之所以是解雇而不是警告,就是因为安全备忘录'。"

据阿申布伦纳称,在他被解雇之前发生的事件并无恶意。他编写了一份关于"准备、安全和安保措施"的文件,并与一些外部研究人员分享。他在采访中说,这"在当时的 OpenAI 是完全正常的",文件中的敏感信息已被删除。

据报道,OpenAI 告诉阿申布伦纳,这份文件包含敏感信息,因为其中有"关于 2027-2028 年 AGI 规划的一句话"。但这一规划时间表是基于公开信息,在阿申布伦纳分享自己的文件前几个月,OpenAI 在自己的准备文件中就已经提到希望在四年内解决对齐问题。

在阿申布伦纳看来,OpenAI 似乎是在为解雇他寻找理由。在他被解雇之前,一名律师问他"关于我对AI进展的看法、对 AGI 的看法、对 AGI 安全性的合适程度、政府是否应该参与 AGI、我和超级对齐团队是否忠于公司,以及我在 OpenAI 董事会活动期间的情况"。

在董事会解雇山姆-奥特曼之后,阿申布伦纳是极少数没有在要求山姆-奥特曼复职的信上签名的 OpenAI 员工之一。这些员工中的许多人后来都离开了公司。

本周三早些时候,OpenAI 的一批现任和前任员工发表声明,呼吁加强对实验室员工的举报保护,称他们中的许多人害怕因提出担忧而遭到"报复"。

OpenAI 没有回应置评请求。