AI先驱警告:人工智能可能超越人类

发表时间: 2023-10-10 10:59

在最近的一次采访中,“AI教父”杰弗里·辛顿再次对人工智能可能对人类生存构成威胁发出警告。

今年早些时候,辛顿辞去了谷歌的工作,成为头条新闻,原因是担心人工智能的风险以及不良行为者使用这项技术的可能性。

在上周日的一次电视采访中,辛顿继续强调了人工智能进步可能带来的负面影响。

辛顿说:“也许我们回顾过去,把这看作是一种转折点,人类必须做出决定,是否进一步发展这些东西,如果他们这样做了,该如何保护自己。”

辛顿说,人工智能可能有好有坏,接下来会发生什么还不得而知。“我们需要认真思考接下来会发生什么。我们只是不知道。”

辛顿在这次采访中警告称,人工智能有可能取代人类。

他说:“如果我们能阻止他们这么做,那就太好了,但目前还不清楚我们能否阻止他们这么做。”

辛顿的担忧包括人工智能带来的就业流失,以及假新闻的兴起,有偏见的人工智能程序提供的信息被当作事实。

辛顿警告说,人工智能系统可能编写自己的计算机代码来修改自己,“这是我们需要认真担心的事情。”

尽管对人工智能相关的风险感到担忧,但辛顿说,他对帮助开发系统和推动人工智能的兴起并不后悔。

他在谈到人工智能可能带来的好处是说:“因此,医疗保健显然是一个巨大的好处。在理解医学图像的情况方面,人工智能已经可以与放射科医生相提并论。它将非常擅长设计药物。”

辛顿说,可能无法找到一条可以确保人类未来安全的人工智能发展道路,“我们正在进入一个非常不确定的时期,我们正在处理以前从未处理过的事情。”

他警告称,我们负担不起出错。