人工智能的飞跃:专家眼中的技术难题与挑战

发表时间: 2024-06-22 18:18

人工智能作为全球性的技术挑战,正在超越单纯的科技维度,走进全球治理议程。近日,一场主题为“人工智能最新发展趋势暨全球人工智能治理”的圆桌研讨会在复旦大学举行。来自计算机科学、技术哲学、国际问题研究等领域的专家齐聚一堂,聚焦前沿创新,共商全球治理。

技术背后的叩问

复旦大学发展研究院常务副院长、文科资深教授彭希哲在致辞中表示,前沿科技的创新不仅带来了丰厚的技术红利,也将诸多不确定性和复杂性挑战推到了前台。人工智能作为新一轮科技革命和产业变革的重要驱动力量,既对发展新质生产力、推动产业优化升级起到了关键作用,也在不断叩问技术背后隐藏的人类主体性、科技伦理、社会治理乃至全球治理的深层问题。

就类脑智能和通用人工智能(AGI)的发展,复旦大学类脑智能科学与技术研究院/大数据学院院长冯建峰教授提出,实现通用人工智能至少有两种路径:一是“功能类脑”,以深度神经网络为基础,根据功能人工设计结构;二是“结构类脑”。为此,复旦大学成立了亚洲顶级脑影像中心,积累了大量健康和疾病大脑数据,希望通过对比分析,建模和理论研究找到实现AGI的理论和算法基础。

大语言模型的演化方向

香港科技大学常务副校长、香港生成式人工智能研究中心主任郭毅可教授认为,人工智能的飞跃实际上才刚刚开始。在他看来,语言不仅是交流工具,更是思维的编码与解码。目前的大模型主要通过信息压缩和向量化实现语言理解,缺乏抽象能力、主观价值和情感意识。他认为人性化的语言模型是未来大模型发展的必然趋势。

大语言模型如何演化为世界模型?复旦大学计算机科学技术学院MOSS系统负责人邱锡鹏教授指出,语言对于通用人工智能而言极其重要,而目前的大语言模型存在很多不足,未来的研究方向是如何将大语言模型演化为世界模型,即一种能够模拟和理解环境,并能够进行决策和预测的模型,实现“具身智能+世界模型”的目标。

前所未有的伦理挑战

人工智能的快速发展不仅引发一场深刻的范式变革,同时也带来了前所未有的伦理挑战。同济大学人文学院特聘教授杜严勇指出,在国家和国际组织层面,尽管相关战略和相关伦理规范出台频繁,但大多还难以对人工智能的发展形成强有力的约束。目前的人工智能治理有三大特点:一是治理服务于国家战略;二是伦理治理受到普遍重视,但治理体制不完善;三是科学家、企业家在一定程度上主导伦理治理,伦理学家话语权不强。未来应加强伦理委员会建设,结合具体场景实现伦理和技术的融合,提高学术团体与学者自律,并让伦理学家发挥更大作用。

上海人工智能实验室治理研究中心副主任王迎春研究员指出,中国高度重视人工智能安全,通过备案制和评测机制等管理大模型。未来需要进一步构建评测科学体系,发展多学科融合的评测技术和工具,也应继续高度重视并积极参与推动相关基准对接和推进跨文化对齐工作。通过构建发展和安全的双基座,为人工智能的发展和应用提供一个安全的基础。

上海市科学学研究所科技与社会研究室副主任李辉研究员通过全球专家的多样视角,探讨了人工智能技术的本质和治理规律,强调技术理解的重要性以及全球领导力在定义和推动人工智能治理中的作用。

全球治理格局的关键变量

人工智能发展正成为影响国家间力量平衡和全球治理格局的关键变量,背后既有国家间的战略竞争,也有全球治理合作。复旦大学美国研究中心副主任赵明昊教授指出,地缘技术是探讨技术与国际关系的交汇点。当前,中美两国在科技领域,尤其是人工智能领域的竞争日益加剧。这场技术博弈不仅是中美两国之间的,也是全球性的。

复旦大学发展研究院青年副研究员姚旭指出,在全球人工智能治理方面,当前不同国家和地区采取了不同的路径,中国始终坚持发展与安全监管并行。全球主要行为体都在加大对人工智能技术发展的投入和支持,除了政策、技术和产业的结合外,人工智能发展的未来将极大依赖于数据的质量和可获取性。

本次研讨会由复旦大学发展研究院主办,“中美友好互信合作计划”平台首席专家蒋昌建主持。复旦大学发展研究院自1993年成立以来,一直致力于成为国内高校智库建设的先行者和中国特色新型智库的探路者,是首批上海市重点智库、中国十大最具影响力智库,在国家治理、社会治理、生态治理、网络治理和科技创新等领域,形成了一系列面向世界和国家需求的学术研究和决策咨询成果。

与会专家合影

来源:作者:刘璐