AIGC如何赋能网络空间治理：风险与应对策略

罗坤瑾

推动网络空间治理的现代化是国家治理体系和治理能力现代化的重要方面。近年来，以ChatGPT、Sora为代表的生成式人工智能(简称AIGC)，以超强的推理能力和信息整合能力为主要运作核心，依靠先进算法和强大算力，在信息收集、风险预测、辅助决策、方案执行等方面展现出强大的应用前景，极大赋能网络空间治理。然而，AIGC在带来技术红利的同时也存在信息失真、信息误导、用户隐私泄露等潜在风险。

AIGC赋能网络空间治理的优势主要表现在模拟人脑、辅助人类学习与决策等方面。AIGC的发展赋予社会公众以创作自由与创作能力，其强大的数据检索、集成、分析与自主生成能力使得普通用户也能相对容易地获取有价值的知识，AIGC可根据人类的需求和兴趣，模拟人脑神经网络系统的运作方式，在算法维度上通过大规模的分析训练，实现了技术的自主学习，创新性地生成相应的内容制品，如AI合成主播开创了新闻领域实时语音及人物动画合成的先河，输入所需播发的文本，计算机就会生成相应的AI合成主播播报的新闻视频，并确保视频中人物音频和表情、唇动保持自然一致，展现与真人主播无异的信息传达效果。

与此同时，这一过程带来的风险和挑战必须引起警惕。人工智能有可能加剧社交媒体虚假信息的数量、速度、多样性及病毒式传播，或存在算法歧视与“信息茧房”，使网络内容创建过程和虚假信息活动的实施更加便捷化、人性化，难以辨识其真伪。兰德公司与卡内基梅隆大学的研究者联合进行了一项研究，他们使用一系列真实或深度伪造的气候变化视频开展实验，结果发现有27%—50%的参与者无法区分真伪。市场研究公司SparkToro对44058个活跃的Twitter账户进行研究,更是发现高达19.42%的账户是虚假账号。借助AIGC，这些虚假账号能迅速生成大量内容，甚至可以模拟专家学者的语言风格，为虚假内容增加权威性，使其在短时间内广泛传播。同时还要扬弃AIGC赋能带来的网络群体极化现象。网络空间中各不相同的各种趣缘社群，通过网络实现跨时空连接，形成互联网数字村落，由于现实经济地位差异的网络映射、算法推荐带来的数字隔离和“回音室”效应等原因，各网络社群间一定程度上存在刻板印象、意见对抗、群体可渗透性弱等问题。

确保数据安全并充分挖掘数据的潜在价值是网络空间安全治理体系中不可或缺的一环。AIGC能够以强大算力精准监测网络数据安全事件的风险阈值，以知识管理主动辅助网络数据安全危机的响应决策，可从内容、技术与管理三个层面探讨风险和危机应对。

内容层面，向智能信息物理服务为中心转变。在争夺用户心智的战争中，“场景为王”逐渐成为主流认知，不管是产品设计还是产品运营，越来越多的人在强调场景化。以算法为代表的智媒技术逐渐实现了采集信息的自动化聚合，不断优化并适应用户的场景需求。互联网平台通过智能算法和智能云服务联系，促使不同层面的用户场景发生聚合，由简单的分类信息聚合场景到随机的用户聚合场景，再到用户有意识的人际关系聚合场景，智媒技术最终能够实现以信息物理服务为中心的智能聚合场景，实现信息服务的场景智能优化。传播阵地的建设并不能单靠“放大声量”来完成，更应关注网络“情感共同体”的建设。网络平台借助AIGC与受众之间的情感交流与互动，逐渐建构出一种人机交互的“情感共同体”。在进行网络内容生态治理工作时，应分级分层，充分考虑不同类型受众的接受能力，用柔性话语策略在潜移默化中影响网民、引导网民、提升网民对信息内容分辨、鉴赏、制作与发布的能力。

技术层面，向智能信息物理融合技术流程转变。以AIGC的运用为导向，网络数据监测实验室将5G、大数据、云计算、人工智能等技术应用到传媒领域。首先，通过高效联动探针和矩阵产品的安全信息数据，将多类型的日志、流量数据汇聚到平台内，通过平台的内置模型进行综合分析，建立监测预警平台、应急响应平台和安全评估平台。其次，通过算法聚合分析梳理，形成相互关联的数据价值链，平台不断主动地引发信息数据的流动、聚合，区分可用数据和干扰数据并做相应的过滤，有效促成多元化用户关系的形成，最终形成具有连通性的信息聚合，实现有效率的信息数据链服务，激活数据价值链的连锁增值。同时还可以创新用户信息物理服务场景驱动的多样性，探索网络平台通过自主互动技术的创新，提升信息数据的开放灵活度，充分感知场景，构建数据化媒体，建立适应数据动态流动的治理流程，形成安全防护、监测预警、应急响应、安全评估的数据安全监督管理闭环，消解数据汇聚、流动及交换共享过程中产生的数据安全风险。

管理层面，不断优化网络空间治理效能的评估体系。充分运用计算智能、感知智能、认知智能的技术，做到事前预防监测、事中干扰阻断、事后工作评估与反思。在事前预防阶段，借助运算智能和感知智能，对网络空间内容进行可信度评估，对处于低值范围内的内容进行流量“降权”处理。基于数据挖掘和分析前提下，智能化掌握舆情传播规律和动向，预防可能存在的风险源。在事中处理应对时，追溯来源，实现网络治理的准确度。同时通过计算智能判别易感人群，防止有害信息进一步传播与扩散。第一时间发布权威信息，避免信息真空，最大限度降低网络乱象造成的负面影响。事后，构建网络空间治理效果评估体系，针对信息供给、技术应用和治理效果进行评估，推动网络空间风险治理的系统性发展。

作者系广东外语外贸大学新闻与传播学院副院长、教授

本文系国家社会科学基金项目（23BXW031）、广东省教育厅创新团队项目（2024WCXTD023）的阶段性成果