人工智能发展动向：未来智能趋势解析

七月的上海热情如火，比它更热的，是在上海举行的世界人工智能大会。作为全球范围的行业盛事，今年的世界人工智能大会更是具有鲜明的特点：当往届的人工智能技术较为分散地体现在AR/VR、大数据、云计算等领域时，今年的世界人工智能大会几乎所有的参展企业都将人工智能聚焦在了大模型这个赛道上，当人工智能大模型赛道如此拥挤，人工智能未来又将向哪里“智能”呢？南方产业观将通过在本届世界人工智能大会上的所见所闻，试图找出答案。

在新技术新模式发展的征途上，追求技术和模式的创新和突破永远都是站在“风口”之上，但是随着技术演进的越来越快，“风口”吹的越来越急，很多行业发展必然会出现的问题，往往会被落在了后面，“安全”无疑就是当中最重要的一员。

而在吃过无数次“技术发展太快安全没跟上”的亏后，在这次世界人工智能大会上可喜的看到，在人工智能大模型发展正进入“狂飙”时刻时，相关的“安全”话题也已经开始引发重视。

“人工智能安全治理日趋重要，超大型大模型的治理，需要尽快研发出规范。”图灵奖得主、中国科学院院士姚期智就表示，目前AI存在多重风险：第一是网络风险延伸和扩大，伴随AI能力出现，传统的数据和网络安全方面风险会被放大；此外是没有意识到的社会风险，AI可能颠覆现有社会结构或带来大规模失业的可能。“从长远看，AI安全治理不是缝缝补补。”姚期智提出，可以建立符合中国国情的AI治理框架、简化中国AI治理。包括建立AI大模型的分级体系，让每台智能机器都拥有“身份证”。“我们有完善的实名制身份验证系统，减少了计算机网络分布式系统的问题，中国有丰富的管控新科技风险的成功经验。”

在本届世界人工智能大会上，清华大学、中关村实验室、蚂蚁集团等机构联合撰写的《大模型安全实践（2024）》白皮书在2024世界人工智能大会上正式发布。这也是国内首份“大模型安全实践”研究报告。白皮书首次系统化提出安全实践总体框架，从安全性、可靠性、可控性等维度给到了技术实施方案，同时提供了金融、医疗、政务等领域的大模型安全应用案例，以及“五维一体”协同共治的治理框架。

作为报告核心，大模型安全技术体系里，安全性意味着确保模型在所有阶段都受到保护，涉及数据安全、模型安全、系统安全、内容安全、认知安全和伦理安全等；可靠性要求大模型在各种情境下都能持续提供准确、一致、真实的结果；可控性关乎模型在提供结果和决策时能否让人类了解和介入，可根据人类需要进行调适和操作。通过这三个维度，可提升大模型的鲁棒性、可解释性、公平性、真实性、价值对齐、隐私保护等方向的能力。

白皮书指出安全评测技术和安全防御技术也是保障大模型安全的有效手段，但目前大模型的安全评测绝大多数是针对内容类场景，随着大模型技术快速发展和广泛应用，对Agent这类复杂大模型应用架构和未来通用AGI的评估是当下面临的挑战。制定标准建立面向未来的大模型可信测评体系将会变得越来越重要，这需要政府、高校等机构，联合有相关经验的企业共同合作。

当人工智能的安全提升到了一个与发展同样重要的高度时，也代表人工智能的安全也具备了市场价值。

在本届世界人工智能大会上，蚂蚁集团就发布了“隐语Cloud”大模型密算平台，据蚂蚁密算CEO王磊介绍，“隐语Cloud”大模型密算平台首批推出两大服务，分别为大模型密态托管和大模型密态推理。大模型密态托管，指模型提供方可以将模型加密后托管在平台上，一键完成云上密态部署，保护模型资产不被泄漏和盗用；大模型密态推理，是指数据以密态形式完成推理，保护用户交互时的数据安全、商业机密等。

“简而言之，就是既要用好，也要管好。”上海人工智能实验室主任周伯文在本次大会上就展示了一张坐标图——横轴是技术能力的提升，纵轴是安全维度，理想的路线是人工智能沿着45度的直线，安全与性能平衡发展，驶向更加有序的未来。“最终，像安全可控的核聚变技术为全人类带来清洁、丰富的能源一样，我们希望通过深入理解AI的内在机理和因果过程，从而安全且有效地开发和使用这项革命性技术。”

南方+记者 叶丹

话题研究员 刘静

【作者】 叶丹

南方产业观察