约瑟夫·奈谈人工智能风险管控的挑战

发表时间: 2024-08-05 15:01

参考消息网8月5日报道世界报业辛迪加网站7月31日刊发题为《人工智能与国家安全》的文章,作者是美国哈佛大学肯尼迪政府学院前院长约瑟夫·奈。文章摘编如下:

众所周知,技术的发展速度要快于政策或外交,尤其是在私营部门激烈的市场竞争推动下。但涉及应对与当今人工智能相关的潜在安全风险,政策制定者需要加快步伐。

许多科学家将人工智能视为具有变革意义的工具。像过去出现的通用技术一样,人工智能具有巨大的潜力,既可以为善,也可以作恶。在癌症研究中,人工智能在几分钟内整理和总结出来的研究成果,多于人类团队需要几个月才能完成的工作量。同样,人工智能可以可靠地预测蛋白质折叠的模式,同样的工作,人类研究人员可能需要好几年才能完成。

但人工智能也降低了不合群者、恐怖分子和其他可能希望造成伤害的不良行为者的成本和门槛。美国兰德公司最近的一项研究警告,“复活类似天花的危险病毒,边际成本可能只需要10万美元,而开发一种复杂的疫苗,边际成本可能超过10亿美元”。

此外,一些专家担心,先进的人工智能将比人类聪明得多,以至于人工智能将控制我们,而不是我们控制人工智能。如今狭义的人工智能带来的风险越来越大,已经需要更多的关注。

40年来,美国阿斯彭战略研究集团每年夏天都会召开会议,集中讨论一个重大的国家安全问题。过去会议的主题包括核武器、网络攻击和中国的崛起。今年,我们关注的是人工智能对国家安全的影响,探究人工智能的好处和风险。

人工智能的好处包括能够更好地整理大量的情报数据,加强预警系统,改善复杂的后勤系统,还有检查计算机代码以提高网络安全。但也存在很大的风险,比如自主武器的进步,编程算法的意外错误,以及可能削弱网络安全的对抗性人工智能。

自主武器构成的威胁尤为严重。尽管在联合国进行了十多年的外交工作,各国还是未能就禁止致命的自主武器达成一致。国际人道主义法律规定,各国军队需要区分对待武装战斗人员和平民,五角大楼长期以来一直要求,在发射武器之前,必须有人类参与决策过程。但在某些情况下,比如防御来袭的导弹,就没有时间让人类干预。

考虑到事情发生的背景很重要,人类必须(在代码中)严格定义武器能做什么,不能做什么。换句话说,应该保证“决策过程本身”由人类决定,而不仅仅是“在决策过程中”有人类参与。这不是一个单纯的假设问题。在乌克兰战争中,俄罗斯方面干扰了乌克兰军队的信号,迫使乌克兰方面给设备编程,让武器自主决定何时开火。

人工智能最可怕的危险之一是在生物战或生物恐怖主义中被使用。当各国在1972年同意禁止生物武器时,人们普遍认为生物武器没有用,因为有“反扑”自己的风险。但有了合成生物学,就有可能研制出能摧毁一个群体而不影响另一个群体的生物武器。或者,假如有个能使用实验室的恐怖分子,他可能只是想杀死尽量多的人,就像1995年发生在日本的东京地铁沙林毒气恐袭事件。(他们当时使用的是沙林毒气,不具有传染性,但现代的恐怖分子却可以利用人工智能制造传染性病毒。)

在核技术方面,各国于1968年达成《不扩散核武器条约》,目前已有191个缔约国。国际原子能机构定期检查各国国内的能源项目,以确认这些项目仅用于和平目的。尽管冷战时期竞争激烈,但核技术方面的主要国家仍一致同意,对最敏感的设施和技术的出口实行限制。尽管人工智能与核技术之间存在明显差异,但核技术的先例为人工智能指明道路。(编译/胡雪)