如何引导人工智能走向向善发展？顶尖科学家的观点解读

2024世界顶尖科学家论坛于10月25日—27日在上海临港举行。本届论坛以“卓越科学 创新致成”为主题，举办青年科学大会等十多场专题会议，围绕材料、能源、生命科学、智能科学、物质科学等话题进行案例分享，推动科学家、创业者、企业家、投资人等开展思想的交流碰撞。

会上，科学家深度聚焦人工智能，就人工智能带来社会深刻变革，开启科学研究新纪元，以及人工智能带来的伦理挑战和监管需求等进行了深刻讨论。

01

数字驱动 人工智能带来深刻变革

世界顶尖科学家谈如何让人工智能更好地为人所用、向善发展？一起去看看↓

人工智能被广泛应用的时代已经到来

本次论坛邀请来自全球近20个国家和地区的近300位科学家，其中包括11位诺贝尔奖得主在内的50余位海外顶尖科学家、40余位中国两院院士及资深科学家。科学家们表示，人工智能被广泛应用的时代已经到来。

2010年诺贝尔经济学奖得主、伦敦政治经济学院经济学皇家教授 克里斯托弗·皮萨里德斯：人工智能已经在许多公司得到了应用，并且未来会应用得更多。我的主要研究目标是确保人工智能的应用，能够惠及所有工作中的人，这也是我演讲的主题，讨论如何实现这一目标。

培训人工智能相关技能 避免员工对其担忧

克里斯托弗·皮萨里德斯表示，很多企业在运用人工智能时并不透明，人工智能和自动化设备让员工觉得降低了工作质量。

2010年诺贝尔经济学奖得主、伦敦政治经济学院经济学皇家教授 克里斯托弗·皮萨里德斯：公司需要花时间为员工进行培训，帮助他们为未来做好准备。员工需要具备一些基本的科学、技术、工程和数学技能，公司内部的正式会议也应该有更好沟通，让每个人都清楚自己的职责以及他们在公司中的定位，这样可以避免目前员工对人工智能的恐惧和担忧。

02

人工智能开启科学研究新纪元

人工智能跨领域的应用研究已经变得非常普遍，今年诺贝尔物理学奖花落机器学习领域两位学者，“人工智能是否属于物理学”的话题引发广泛关注和讨论。对此，顶尖科学家们是怎么看的？

在本届论坛上，多位与会科学家都提到了本月颁发的2024年的诺贝尔奖在人工智能领域取得了重大突破，特别是在物理学和化学两个奖项中。在物理学领域，诺贝尔物理学奖获得者，利用统计物理学的基本概念，设计了能够作为联想记忆并从大数据集中寻找模式的人工神经网络。此外，化学奖获得者开发的AlphaFold AI工具，对于预测蛋白质结构具有革命性的影响。

与会科学家表示，人工智能的应用已经深入科学研究的各个领域，从蛋白质结构的预测到材料科学、天文学等多个领域，人工智能都在帮助科学家们处理大量复杂的数据，发现新的模式和知识。这些成就表明，人工智能已经成为现代科学研究不可或缺的工具，它的跨学科特性和强大的数据处理能力正在推动科学的边界不断扩展。

03

审视人工智能 带来的伦理挑战与监管需求

随着人工智能的广泛使用，专家学者认为，不仅要关注人工智能在产业升级、优化生活体验方面的无限潜力，更应深刻审视其带来的伦理挑战与监管需求。

2024顶科协奖的获得者克莱因伯格认为，在设计算法时，要兼顾算法目标、使用数据、训练方法等各方面。比如在数据层面，算法作为敏感信息的存储库，其背后有大量数据支撑，所以应该保护这些数据的完整性，兼顾数据所代表的各方利益。

中国新一代人工智能发展战略研究院执行院长 龚克：人工智能在生成内容的时候，它一定是带价值观的，联合国教科文组织在两年前推出了联合国的第一个文件，就是关于人工智能伦理的建议书，就是为了它的治理建立一个基础。这个建议书提出了4个最重要的价值观原则，在这个价值观原则上构建了10个伦理的原则。在地缘政治冲突这么严重的情况下，怎么把这些不同的，比如今天我们在上海的论坛，在英国的论坛，在韩国的，把它们能连接起来，形成一个全球的共识，现在是一个非常严重的挑战。

建立全球监管机制 让人工智能向善发展

如今，人工智能其快速发展及普及正为社会带来深刻变革，同时也带来了不可忽视的潜在威胁。因此，建立一套跨越国界、种族、文化的统一的全球人工智能监管机制势在必行。

2015年图灵奖得主、斯坦福大学电气工程名誉教授 马丁・赫尔曼：我很多次强调，如果要让人工智能向善发展，必须停止人工智能在武器系统的应用，但是我们现在看到正在向这个趋势发展，所以我们要想办法通过合作来解决。

04

失去人类控制的智能 现在还看不到影子

随着各种大模型、生成式人工智能应用层出不穷，重视通用人工智能发展已成为行业共识。通用人工智能时代何时到来？人工智能未来是否会超越人类甚至不受人类的控制？对此，中国新一代人工智能发展战略研究院执行院长龚克表示，失去人类控制的智能，现在还看不到它的影子。

责任编辑：王艳思琪