人工智能如何引领网络安全产业变革

文 | 饶少阳

新一轮科技革命与产业变革的浪潮汹涌澎湃，信息化、数字化的巨轮正以前所未有的速度重新绘制世界蓝图，而网络安全作为这一进程中的隐形盾牌，已悄然成为大国博弈的关键战场。在这场没有硝烟的较量中，人工智能（AI）正以不可阻挡之势重塑网络安全的格局，它既是挑战者，也是守护者。

一方面，以Sora、GPT-4o为代表的生成式人工智能（AI Generated Content，AIGC）引发公众对个人隐私、AI恶意使用等问题的广泛关注。一些不法分子利用开源的大语言模型（Large Language Model，LLM），结合有害语料库，训练出专门用于漏洞发现、社交操纵、欺诈勒索等非法活动的恶意应用，对国家社会经济和人民生活等造成严重危害。

另一方面，AI也为网络安全行业插上了智慧的翅膀，开启了全新的防御篇章。在2024年网络安全顶级盛会——RSA大会（RSA Conference，RSAC）上，谷歌、思科、CrowdStrike等业界领军企业纷纷推出由AI驱动的网络安全产品和服务。与会行业专家普遍认为，AI是推动网络安全产业革命性发展的核心技术，AI将重塑网络安全产业。

展望未来，AI与网络安全的结合将引领产业步入新的发展阶段，实现从被动防御到主动出击的跨越。在这一进程中，我国企业应重视这一趋势，积极推动AI技术与网络安全技术的深度融合，为构建更加坚固、智能的网络安全防线贡献力量。

“用AI保护AI”

过去30年来，攻击和防御技术在相互对抗过程中不断变化和升级。我国网络安全产业发展从最初的防病毒、防火墙等单一传统产品发展成目前较为成熟的网络安全产品体系，已经能够满足多场景、多维度的安全防护需求。

然而，随着AI技术的广泛应用，不法分子升级了攻击手段，针对和利用AI技术的网络攻击显著增加，包括“深度伪造”诈骗、钓鱼邮件、漏洞攻击以及数据泄露等问题日益突出，网络安全防护变得更加复杂和紧迫。根据MIT Technology Review对300名网络安全专业人员的调查，2021年，60%的受访者表示难以有效抵御自动化网络攻击，96%的受访者曾经历过由AI驱动的网络攻击。

“用AI保护AI”已经成为应对当前网络安全威胁的必选项。越来越多的国家和机构正在加速布局网络安全与AI技术的融合，以促进攻防技术升级。从现有的行业实践来看，以安全大模型为代表的“AI+安全”范式在恶意代码检测、安全策略管理、安全运营、数据分类分级、数据脱敏等领域涌现出超越人类的潜质。

安全产业格局迎来三大新变化

放眼全球，网络安全人工智能市场处于高速增长阶段。专业研究机构数据分析，2023年的市场规模超过200亿美元，预计到2030年年复合增长率将保持在20%以上。

笔者认为，随着“AI+安全”范式的广泛实践应用，网络安全产业将迎来三大变化：

一是智能化。网络安全产品及服务的智能化能够极大解放人力负担，过去需要大量人工操作的流程，如今可通过安全大模型来解决。微软、Palo Alto Networks、深信服、奇安信等数十家网络安全企业已将安全大模型应用于自身产品及服务中，取得明显效果。以安全运营服务为例，传统安全运营中心的人工处置流程占比高达93%，在安全大模型的赋能下，安全运营中心的数据处理量提升了6倍，误报率减少70%，响应速度从2～3天缩短到16分钟～5小时。

二是平台化。网络安全产品及服务的平台化升级类似于智能家居系统，用户通过一个平台控制所有家电设备，实现统一管理、统一监控。早在2021年，网络安全行业就已从分散化解决方案向集约化平台转型，并朝着“以安全大脑为核心，各类检测与响应工具为触手”的防御体系趋势演进。进入2023年，平台化的趋势进一步加速。头部网络安全企业开始将安全大模型应用于安全平台，推动平台能力从管理不同安全子系统扩展到管理IT、云和网络架构。

三是服务化。网络安全企业正从传统的“产品销售”向“服务提供”模式转变。这一转变恰如电影消费模式的演进，从曾经需要购买DVD光盘到如今只需一键订阅，即可畅享海量、高清的最新影片。在这一转型过程中，安全大模型逐渐成为网络安全企业构建竞争优势的核心要素。自2023年起，头部网络安全企业如思科、IBM、Palo Alto Networks等通过资本并购的方式，积极整合威胁情报、态势感知、攻击面管理等关键能力和数据，不仅极大地丰富了安全大模型训练数据来源，也显著提升了其分析预测、智能响应的能力，从而可为用户提供更精准、高效的安全服务体验。

“AI+安全”高质量发展的挑战与机会

“AI”是一个不断突破和创新的激进型领域，“安全”是一个强调稳妥和保障的保守型领域。因此，要实现“AI+安全”范式的高质量发展，仍需克服多方面的挑战。

一是AI技术方面，安全大模型通用底座能力有待提升。目前国内外网络安全企业大多通过在通用大模型的基础上进行垂直训练，以开发出针对特定领域需求的安全大模型，尽管我国的通用大模型技术发展迅速，但与OpenAI的GPT-4.0相比仍存在差距，将在一定程度上制约国产安全大模型的性能，底座能力亟待提升。

二是安全技术方面，安全产品接口标准化程度有待提升。目前，我国不同厂商的网络安全产品互联互通尚处于起步阶段。安全企业提供的产品类型繁多，不同企业甚至同一企业产品之间的集成和交互存在困难，且实现方式各异。用户在推动网络安全产品互联互通改造过程中，需承担高昂的成本，且实际成效并不理想，这在一定程度上制约了我国网络安全产业向平台化转型的进程，同时制约安全大模型的赋能效果。

鉴于此，笔者认为可从以下几方面着力把握机遇，推动“AI+安全”的高质量发展。

一是完善“AI+安全”的顶层设计。人才资源方面，整合产、学、研领域专家资源，组建“AI+安全”复合型专家团队；行业标准方面，针对安全大模型的数据集标注、系统安全测评、伦理和法律合规性等方面，制定一系列行业标准，指导并规范我国企业的安全大模型建设。

具体到实践层面：在数据标注阶段，针对数据格式、标签定义、注释方法等方面形成统一指导标准，去解决无效返工与一致性的问题，从而提高数据集的质量；在成效评估阶段，形成业界公认、权威的评价方式来评估安全大模型的性能和可靠性，去解决模型在实际应用中产生误导性结果的问题，从而提高网络安全性。

二是促进“AI+安全”的跨行业协同创新。国内安全厂商正积极探索大模型技术在安全领域的应用，并已取得初步成果。积极有效的跨行业协同机制和引导，是促进创新的保障。比如，提高“AI+安全”领域的国家级重点项目数量、设立创新保障资金；充分发挥央企的主力军作用，调动中小企业的创新动力；引导企业在行业定制化训练、数据资源共享、商业模式创新等方面建立深度合作机制，共同推动“AI+安全”范式的高质量发展。

三是推动网络安全产品互联互通。推动我国网络安全企业贯彻落实网络安全产品互联互通相关标准要求，严格遵循接口规范、数据格式、通信协议和操作流程等方面要求,增强产品的兼容性和互操作性，共同构建协同高效的网络安全防护体系，推进产业向平台化和智能化转型。

四是共同培育“AI+安全”服务生态。建议我国网络安全企业拓展市场应用范围和深度，加强服务支撑体系建设，明确服务水平基线指标，通过市场宣传提升用户对安全服务的认知和满意度。建议科研机构加强在联邦学习、隐私计算和区块链技术方面的研究开发力度，以支持网络安全企业在确保用户数据隐私安全的同时，实现对用户信息的精确分析，进而提高在全网范围内的威胁感知能力。

五是树立全球化视野，加快国际化步伐。目前，中国网络安全企业已具备满足国内市场需求的坚实基础，但在海外市场的拓展仍处于起步阶段。近年来，中国一些网络安全领军企业，如奇安信、绿盟科技、深信服等，均加快国际化步伐，积极拓展海外市场，海外业务收入取得显著增长。但从整体来看，当下中国网络安全企业海外总收入远不及国内的市场规模。若仅局限于本土市场，发展潜力将受限。因此，建议中国网络安全企业将视野范围扩大至海外，加快国际化步伐。

综上所述，“AI+安全”新范式将为网络安全产业带来深刻变革，我国网络安全企业应抓住机遇，推动产品服务体系向智能化、平台化、服务化转型，提升全球影响力，成为全球网络安全市场的领导者。

（本文作者系中国电信研究院战略发展研究所所长）

（本文刊发于《中国经济周刊》2024年第14期）