张军平深度解读:人工智能不必追求全能,专注一点突破!

发表时间: 2024-08-29 11:37

“张老师,请问人工智能都这么先进了,我们学习会被取代,不学习还是会被取代,那我们学习还有什么用?”在今年的上海书展上,一位小读者在“人工智能会替代人类吗?——人工智能的历史、现状与未来”主题图书分享活动后问张军平教授。

作为人工智能领域的知名专家、复旦大学计算机科学技术学院教授张军平回答道,掌握基础知识如矩阵运算对于理解人工智能至关重要。只有学习这些基础,才能更好地控制和优化算法,理解人工智能的决策。他还强调,学习能让人们更好地理解和应用人工智能技术。

《人工智能极简史》书封。

为了帮助公众理解人工智能的发展,张军平去年出版了《人工智能极简史》,以通俗的语言介绍了AI的历史和技术进展。该书涵盖了从早期理论到现代深度学习的重要里程碑,并展望了AI的未来。

人工智能的历史可以追溯到20世纪中叶,经历了多次兴衰。20世纪50年代,艾伦·图灵和约翰·麦卡锡等先驱奠定了基础。尽管遭遇过“AI寒冬”,但21世纪以来,随着计算能力和大数据的进步,深度学习引领了人工智能的新一轮发展。

张军平2019年出版的《爱犯错的智能体》一书探讨了人工智能面临的挑战和误区,鼓励以开放心态接受智能体的学习过程中的错误。彼时,ChatGPT尚未被人熟知,人工智能的概念也没有全民普及,张军平颇为自豪地向澎湃新闻(www.thepaper.cn)表示,即使科技发展日新月异,书中的大部分内容还是没有变,讲的观点依旧成立。

出现“AI泡沫”是期望过高

澎湃新闻:2018年9月17日,首届世界人工智能大会在上海举行,你也是从2018年6月起,在大学课堂之外向普通大众普及相关知识。从那时到去年《人工智能极简史》的出版,你是如何成为人工智能领域科普达人的?

张军平:我在2018年第一次做科普,是当时《科学时报》邀请我写一篇关于生成对抗网络的介绍。(编者注:GAN,是一种深度学习架构。该架构训练两个神经网络相互竞争,从而从给定的训练数据集生成更真实的新数据。)

因为涉及的内容比较复杂,我便开始思考如何给大家做一个科普性的解读。其中有一个交叉商的概念,即生成网和对抗网,这让我联想到《射雕英雄传》中周伯通的左右互搏术,即左手攻击右手防守。

当时关于深度学习的解释在学术圈在内有很多版本,但我想从科普的角度去解释这个问题,所以我写了《深度学习,你就是那位116岁的长寿老奶奶》,最终反响也很不错,所以我就想沿着这个思路把它写下去,在2019年出版了《爱犯错的智能体》,后来又开始转向短视频。

这次写《人工智能极简史》,是要先把历史理清,它的严谨性远高于前一本书。

我从2000年开始做人工智能方面的研究,人工智能的整个发展主线我是清楚的,也知道如何去讲述,但要将这些内容非常精准地写出来,就需要再去查文献,以原来的内容为基础进行修改。

比如说为什么第一次人工智能失败了,这个内容我首先联想到了很多东西,但后来我的老师陆潜院士指出,专家系统时代(1970年代至1980年代,是一种基于知识库的人工智能系统,它们利用专家的知识和规则来解决特定领域的问题)是帮助第一次人工智能低潮走出来的一个关键节点,不应该在之前讲,应该调整到后面去。于是我根据他的意见再重新查资料,对这一部分进行调整。

写书和做研究(写论文)可能不太一样。如果书写得好,或者对未来有足够的预判,那这本书的生命力会远强于科技论文。尤其像我们人工智能领域,很多时候论文发表出来可能才过了半年时间,(技术)性能就被刷上去了,原来的文章就会渐渐被忘记。

澎湃新闻:有声音说中美在人工智能领域存在竞争,你之前也去美国交流过,(这种竞争在)未来的决定性因素是什么?

张军平:一方面是人才。科学发展的研究表明,如果某个国家的科学成果数占同期世界总数的25%以上,这个国家就可以称为“世界科技中心”。但世界科技中心一直在变,比如最早是意大利,英国,然后是法国,德国,后来到了美国。

世界科技中心会不会变,会不会到中国来,这都是问题。如果要在中美竞争之间产生一个反转,我觉得最明显的标志就是什么时候世界科技中心能够到中国来。

澎湃新闻:你之前说过,现在有一种大家全都投入到人工智能热潮当中的趋势,最近也出现了“AI泡沫”这种说法,你怎么看?

张军平:是否“泡沫”要看如何去定义,实际上也可以用“透支”来形容。因为在学术界看来没有“泡沫”这一说法,只要四平八稳地慢慢往前做、一步一步往前迈进即可。但如果说是“泡沫”的话,就意味着前面肯定有一个过高的期望。

比如我们现在这一轮人工智能热潮,学术界可能并不觉得人工智能的发展多么火热,反而会认为在当前环境下,离通用人工智能可能还有很远的路要走。但企业或许对人工智能的发展有过高的期望,觉得快达到或者说已经达到了一定的成果。期望很高的话,失望也可能会很高。因为前面投入太多,没有达到理想的成果就会认为这是个泡沫。

澎湃新闻:其实你也提到有可能机器觉得简单的事情人类觉得复杂,人类觉得简单的事情机器觉得复杂,我们的初衷是让机器去帮我们做一些简单重复性的工作,但实际上我们也在让AI去写诗或者做一些有难度的事情。你觉得未来会不会出现人类对人工智能过度依赖的情况?

张军平:其实德雷福斯在他的《计算机不能做什么》一书中讲到过这个问题,他说如果未来人类高度依赖人工智能,那么可能会导致的结果不是让人类变聪明,而是会让人类变成超级低能。

澎湃新闻:你赞成人工智能会让人类毁灭这样的论调吗?

张军平:我不赞成。

创新、监管与数据保护

澎湃新闻:你此前多次提及对于人工智能过于乐观的问题,也有人觉得,人工智能还没有那么“智能”。我们怎么去看待人们对人工智能抱有期待这件事?

张军平:人工智能的研究者大多是乐天派。但我始终觉得人要了解自己,其实是一个很难的问题。就像一只蚂蚁,假如它在一个二维平面上爬,就永远不知道自己是在二维平面上,除非有人站在比它更高的维度,可以看到它其实是在一个三维空间里爬行。人其实也是一样的,想要完全了解自己可能很难,因为你的维度已经被限制住了,没有办法跳出这个维度看自己。

我把人工智能(的运用)和人比作飞机和鸟,人类一直想模拟鸟的飞行,其实并不需要把鸟的所有构造都弄明白,只要把注意力集中在飞行这个角度上就行,把单个方面做好,让飞机飞得越来越远,载客量越来越大。

人工智能也是类似的道理,虽然很难在短时间内搞清楚人类的智能是如何运作的,但可以把焦点只集中到一个目标上,比如人脸识别是否准确、自然语言处理中用前一个单词预测下一个单词是否准确,将某一个方面做好即可。

澎湃新闻:就是说我们可以更聚焦于应用,而不是所谓的通用人工智能。关于人工智能预测,你觉得人工智能在气象预测上能有多大的帮助,或者有什么前景?

张军平:气象预测还是一个很困难的问题。因为气象与我们现在看到的图像视频不同,它其实是我们拿到的数据,也有可能是通过雷达去扫描天空获得的某一个离地面一定距离(比如10公里)的云图,然后根据云图变化预测气象。但云图显示的是地面水汽蒸发状况,这个状态是如何生成、如何消失的过程,都很难知道。从地面到10公里这个空间范围内,我们不可能使之遍布采集器和观测器。即便是地面上的信息我们知道的也不多,像上海可能只有几百个观测站,信息收集量不够,就导致做气象预测不是那么容易。而像台风预测,不仅(观测)范围要更大,在海上我们极少甚至没办法去做预测。近年,包括DeepMind、华为、阿里巴巴、复旦的伏羲等团队在内都特别关注气象,也不是毫无进展,比如短临预报、局地预报等,但要做好,尤其对于突发、罕见的气象事件做好预测,仍非常困难。

澎湃新闻:在治理方面,我们看到很多新闻报道,视觉艺术家、新闻媒体和唱片公司等版权所有者对科技公司用他们的作品训练生成式人工智能系统提起诉讼。你同时作为创作者和人工智能领域专家,如何看待科技创新与数据保护这一问题?

张军平:这个问题到现在为止还没有得到圆满的解决,目前很多人对人工智能创作都存在一定异议。以写小说为例,有作者在写完前几十章后将自己的创作大纲云上传到某平台,而平台可能将他的大纲数据用来进行人工智能训练——对小说内容进行填充,这有可能导致人工智能补充的内容与作者本来要写的差不太多,从某种意义上来说,会影响到作者本人的一些创作意图。

所以作为一个创作者,需要谨慎处理自己的产品和创作成果,不要盲目地将内容云上传,因为存在平台拿用户上传的素材做训练的风险。

澎湃新闻:你觉得应如何做到创新与监管方面的平衡?

张军平:现在这个阶段还没有到需要严厉监管的阶段。可能从国家层面来说,最需要监管的还是数据。前几年出台的《中华人民共和国数据安全法》也反映出要小心数据泄露问题。

但创新这方面,我觉得应当以鼓励为主,其实我们并不知道应该怎么做才是对的。因为科研就是这样,很多时候并不知道要怎么做,但是做着做着可能就探索出一条路来,这是科研的真实情况。