人工智能伦理：如何确保AI技术为人类服务？

历时3天超200场主题交流活动，世界经济论坛第15届新领军者年会（又称“夏季达沃斯论坛”）于2024年6月27日闭幕。

围绕“未来增长的新前沿”主题，与会1700多名全球领袖开启“头脑风暴”，试图向世界擘画一个类似科幻电影、充满机遇和梦想的新未来。其中，以人工智能技术为代表的新兴技术相关讨论几乎遍布整个会场，人工智能技术成为本届论坛毫无争议的“C位”话题。

论坛期间，南方周末与会人员参加多场AI相关主题活动，访谈多位学界专家和企业界领袖。他们普遍认为，加速人工智能在更多领域应用普及，加快AI领域治理能力建设是推动经济更可持续发展的必然选择。与此同时，国际社会、各国政府、学术界和企业界各方需要开展各层级对话与交流。他们还倡议，中美之间应在AI领域密切合作，在应对就业问题、安全问题和避免AI军事化应用等方面，携手应对AI技术革命可能带来的挑战。

“没有一家制造企业仅靠AI技术就获得成功”

制造业如何应用“人工智能”？在“灯塔工厂领航未来”分论坛上，李杰对工业领域人工智能应用给出了简洁明了的基础定义：ABC+D+E。

李杰现任美国马里兰大学克拉克学院杰出教授，是工业领域人工智能研究的专家，也是世界经济论坛“灯塔工厂”项目评审委员之一。但他并非纯粹的学院派学者。2022年前，李杰曾任富士康集团副董事长多年。论坛期间，他参加的公开论坛活动均与工业领域的人工智能发展紧密相关。

马里兰大学克拉克学院杰出教授李杰在“灯塔工厂领航未来”分论坛上发言。（世界经济论坛供图）

何为“ABC+D+E”？李杰解释，A是算法（Algorithm），B是大数据（Big data），C是算力（Computility）。这是人工智能的三个基本要素。在此基础上，制造业需要加上D（Domain，专业）和E（Evidence，事实或明证）。

在他看来，数据就像工厂的一面镜子或者“验血”工具，可以让企业及时找到不足、明确底线，最终形成一个不断自我学习的良性循环。“所谓智能制造，就是要由过去以经验思维主导的生产转向以数据和事实为导向的数据化生产。”

制造业如何实现“智改数转”？李杰认为必须践行“3D原则”。首先要树立数据化（Data）的思维方式，“数据是基础，数据的文化是一种思维方式，需要从整个社会层面去持续培养”。其次是不断强化专业(Domain)的深度，以确保能够实现各种生产经营的目标（例如环保减碳、降本增效等）。第三，没有一家制造企业仅仅靠AI技术就获得成功，成功的背后最终还是人的训练（Discipline），因此必须“训练、训练、再训练”。

“未来5-10年将对人类产生难以估量的影响”

工业领域仅是现代社会受人工智能影响而改变的冰山一角。

论坛期间，更多与AI相关的讨论与每个人直接相关。在“人工智能助手将如何发展？”分论坛上，与会嘉宾共同描绘了类似科幻电影的未来世界。

“人工智能助手将如何发展？”分论坛现场。（世界经济论坛供图）

在未来世界，99%的智能由人工智能贡献，而1%的人类智能则对99%的人工智能构成支撑。“未来很多很多的工作将由完全自主的人工智能体（Al agents）完成，但他们在很多情况下仍然需要更高智慧的人类来控制。”英国AI企业CausaLens创始人兼CEO达尔科·马托夫斯基如此表示。

东软集团董事长刘积仁则认为，未来的人工智能体有四个主要特征，一是可以不用和人过多地互动，就可以自主进行很多事情；二是有感知，可以感知到其它的智能体、物体以及环境，并能把感知变成学习的过程；三是自主判断，并执行一些活动；四是有别于通用人工智能，人工智能体可以是个性化的。而满足个性化需求的智能体是通向通用人工智能的一条道路。“如果未来世界有成百上千万个人工智能体在互相工作的时候，你能想象未来的趋势是什么吗？”

南希·徐（Nancy Xu）是美国AI企业Moonhub的创始人和首席执行官，毕业于斯坦福大学并获得计算机科学博士学位。她坚信，未来超过80%的工作将由AI完成。因此，她创立了全球首个AI招聘公司，通过AI技术为企业找到最合适的人才。“AI可以7×24小时响应人类的需求，还可以实现很多人类无法做到的功能。它在未来5-10年将对人类的就业、生活产生难以估量的巨大影响。”

应制定公共政策确保AI技术造福人类

像南希·徐（Nancy Xu）如此关注AI技术对未来就业前景构成影响的与会者只是本届论坛的一个缩影。事实上，几乎所有讨论AI技术进步和创新的参会者，都会提及就业、公平和安全等公共议题。大多数与会者的共识是：应该通过制定公共政策和建立AI技术公共治理体系，确保AI技术听命于人类，造福人类。

对此，清华大学苏世民书院院长、公共管理学院学术委员会主任薛澜教授在“各国准备好迎接人工智能了吗？”分论坛上表示，人工智能提供了巨大的机遇，但在从治理到获取，以及能源消耗等诸多领域，仍有挑战需要解决和应对。

2024年6月26日，“各国准备好迎接人工智能了吗？”分论坛现场。（世界经济论坛供图）

“首先就是人的因素。”他指出，并非所有国家的所有人都愿意应用AI 技术。这导致不同国家在对待AI技术时的态度也不一样。“其次是AI 技术进步与监管的你追我赶。第三，就是地缘政治的挑战。”他指出，美国正在想方设法阻止中国AI的发展，这也影响到两国AI监管协调方面出现了争议，比如出现所谓“监管限制发展”的言论。

美国对中国持续进行高技术封锁也令相关企业颇为尴尬。论坛期间，工业富联首席数据官刘宗长在回应南方周末时确认，由富士康代工生产的英伟达最新架构高端显卡的部分产品生产地恰在中国内地。但受美国相关出口禁令限制，包括该架构产品和H200为代表的英伟达AI训练系列高端显卡均无法在中国内地销售。

中美在AI安全领域是否除了对抗已没有合作机会？薛澜认为，中美之间仍存在合作联手的诸多机会。其中，中美应共同应对未来AI自主化系统可能不听命于人类的风险。“中美应该有共同的红线。”他进一步解释，“中美不同层面应该尽快形成专家对话机制，不要形成AI领域的军备竞赛。”薛澜表示，中美应共同致力于避免AI技术的军事化应用。

南方周末 李鹤鸣

责编 谢艳霞