数百名科技领袖发表的一份声明发出了警告：人工智能(AI)对人类的生存构成了威胁。这份只有22个字的声明写道：“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球的优先事项。”

在周二发布的这份声明上签名的科技领袖、首席执行官和科学家中，有马萨诸塞大学阿默斯特分校副教授斯科特·尼库姆。

尼库姆在《早间新闻》上告诉NPR的莱拉·法德尔，人工智能的发展如此之快，从对少数民族的短期影响到长期的灾难性后果，威胁仍然无法计算。“我们真的需要做好应对这些问题的准备，”尼库姆说。

如果不加以管制，人工智能是否意味着文明的终结?

“我们真的不知道如何准确地与人工智能系统沟通我们希望他们做什么。想象一下，我想教机器人如何跳跃。所以我说，“嘿，你每离开地面一英寸，我就会奖励你。”也许机器人只是决定抓住梯子爬上去，它完成了我为它设定的目标。但在某种程度上，这与我想要它做的完全不同。这可能会对世界产生副作用。也许它被梯子划伤了什么。也许我一开始就不想让它碰到梯子。如果你把梯子和机器人换成自动驾驶汽车或人工智能武器系统或其他东西，那可能会从字面上理解我们的陈述，并做出与我们想要的完全不同的事情。

为什么科学家不考虑后果就释放人工智能?

如果我们能控制人工智能，它会有巨大的好处。但我们发表声明的原因之一是，我们觉得与我们所看到的巨大能力相比，对人工智能的安全和监管以及减轻短期和长期危害的研究还不够充分。

人工智能技术已经带来了哪些危害?

不幸的是，就像很多事情一样，其中很多都是少数民族的负担。例如，面部识别系统对黑人的识别效果较差，存在很多bug。这些系统放大了错误信息。随着这些系统变得越来越智能，风险的类型和风险的级别肯定会继续增加。

人工智能是一个如此宽泛的术语。我们说的是哪种技术?

人工智能不仅仅是一件事。它实际上是一套技术，使我们能够让计算机为我们做事，通常是通过从数据中学习。这可以是一些简单的事情，比如以更有效的方式安排电梯使用时间，或者根据我们掌握的关于城市或病人当前状况的一堆数据，确定救护车与救护车之间的调度。

它可以一直走到另一个极端，有非常一般的代理。比如ChatGPT，它在语言领域运作，你可以做很多不同的事情。你可以给别人写个短篇故事，你可以给他们医疗建议。您可以生成可用于黑客攻击并引发其中一些危险的代码。许多公司感兴趣的是建立一种叫做AGI的东西，即人工通用智能，通俗地说，本质上意味着它是一种人工智能系统，它可以完成人类可以完成的大部分或全部任务。

本文转载自 人工智能带来的威胁- 雪兽软件

更多精彩推荐请访问 雪兽软件