超过1000人联名呼吁停止AI训练，OpenAI创始人也加入？揭秘真相！

每经编辑：黄胜

人工智能风口正盛，一封呼吁暂停大型AI研究的公开信在硅谷科技圈流传开来，激起千层浪。

最具戏剧性的是，OpenAI CEO Sam Altman的名字也曾赫然出现在公开信上。《每日经济新闻》注意到，在签名名单里的尾部，赫然出现了阿尔特曼的名字。签名中OpenAI最后一个字母为小写，或有故意之嫌疑。

图片来源：futureoflife.org

签署人之一、纽约大学著名AI研究者Gary Marcus也在推特上发问：“是你吗，山姆？”

图片来源：GaryMarcus@twitter

据华尔街见闻，不过周三晚些时候被证实是虚假签名，Altman在接受媒体采访时，他并没有计划呼吁暂停人工智能的开发。

Altman并不同意这封信的观点，他指出：OpenAI不仅非常重视AI安全，而且比业内其他公司更重视。我们谈论这些问题的声音最大、强度最大、时间最长。

“马斯克们”呼吁暂停，OpenAI创始人：AI需要政府与社会的共同监管

北京时间3月29日，由图灵奖得主、深度学习三巨头之一约书亚·本吉奥（Yoshua Bengio），埃隆·马斯克，《人类简史》作者尤瓦尔·赫拉利等人联名发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，以确保人类能够有效管理其风险。暂停工作应该是公开且可以证实的，如果AI实验室不能快速暂停，各国政府应该实行暂停令。

值得注意的是，马斯克作为OpenAI的共同创始人之一，一直也毫不掩盖他对OpenAI的敌意，认为其过商业化，从开源变成了“闭源”，已经忘了非盈利和开放的“初心”。但最近也有新闻指出，马斯克之所以如此敌视OpenAI，是因为2018年争夺OpenAI经营权失败，所以撤资走人。

此外，签名人还包括苹果联合创始人史蒂夫·沃兹尼亚克、2020年美国总统选举民主党初选候选人杨安泽、AI经典教科书《人工智能: 一种现代方法》作者Stuart Russell、AI领军公司DeepMind的一众研究人员等。

截至29日，这份公开信已经征集到1128份签名。

图片来源：futureoflife.org

公开信指出，AI现在已经能和人类竞争，将给人类社会带来深刻的变革。在这个关键时刻，我们必须思考AI的潜在风险：假新闻和宣传充斥信息渠道、大量工作被自动化取代、人工智能甚至有一天会比人类更聪明、更强大，让我们失去对人类文明的掌控。这些问题不应该交给“未经民选的科技领袖”来决定。

然而，各大AI实验室为了开发和应用更加强大的人工智能，最近几个月已经陷入了“失控”的竞赛，甚至连AI系统的创始人也并不能完全理解、预测和有效控制其风险，相应的计划和管理工作没有跟上。

实际上，面对OpenAI产品在全球的火爆程度，OpenAI创始人兼CEO山姆·阿尔特曼自己也感到有些害怕。他近日在接受媒体采访时表示，自己对AI如何影响劳动力市场、选举和虚假信息的传播有些“害怕”。AI需要政府和社会共同参与监管，用户反馈和规则制定对抑制AI的负面影响非常重要。

OpenAI CEO：“AI确实可能杀死人类”

据澎湃新闻3月28日报道，OpenAI CEO山姆·奥特曼称，并不否认过分强大的AGI“可能杀死人类”这一观点。必须承认，（AI杀死人类）有一定可能性。很多关于AI安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。

图片来源：视觉中国

值得注意的是，据财联社报道，近日，挪威机器人公司1X Technologies宣布完成A2轮融资，共筹集到2350万美元。OpenAI旗下创业基金领投此轮融资，Tiger Global以及一群挪威投资者也参与其中。

获得融资后，该公司创始人进一步表示，“1X很高兴能得到OpenAI的领投，因为我们的使命是一致的：将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下，我们将继续在机器人领域取得重大进展，并增强全球劳动力市场。”

值得注意的是，人形机器人也是马斯克十分关注的方向。去年9月30日举办的特斯拉AI日上，马斯克展示了外界引颈期盼的人形机器人Optimus，马斯克曾表示，机器人业务将比汽车更具价值。

彼时，马斯克在发布会上表示，目前的人形机器人没有“大脑”，没有能在现实世界中导航的智能，而且非常昂贵且产量低。如今，OpenAI与人形机器人的牵手则让人期待。

每日经济新闻综合华尔街见闻、每经网（记者：李孟林）、澎湃新闻、财联社

每日经济新闻