人工智能发展底线何在：探究融合与安全的平衡点

来源：【通信信息报社】

（记者 林婉玲）日前，以“AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会在北京国家会议中心开幕。当前，人工智能正在与实体经济深度融合，激发创新活力和社会潜能。但同时，人工智能重塑着网络安全发展态势，为行业带来新的机遇和挑战。

（图片来源：摄图网）

网安面临人工智能挑战

“画像”背后藏风险，用户数据成黑客“养料”……随着人工智能技术的快速发展，我们正处在一个前所未有的数字化时代。在这个时代，数据成为了最宝贵的资源之一，它的安全和保护变得至关重要。

国家信息技术安全研究中心金融安全处处长曹岳认为，未来的攻击，也就是智能化的攻击，将加强攻击的频度，AI的扩展会提升攻防的对抗维度，AI还将升级网络攻防对抗的强度。

可见，随着数据量的激增和数据类型的多样化，数据安全面临的挑战也日益复杂化。

首先，人工智能技术的广泛应用带来了数据处理能力的巨大提升，但同时也增加了数据泄露的风险。黑客和网络犯罪分子利用先进的技术手段，对数据进行非法访问、窃取和滥用。这些行为不仅侵犯了个人隐私，还可能对企业和社会造成巨大的经济损失。

其次，随着物联网(IoT)设备的普及，越来越多的设备连接到互联网，这些设备的安全漏洞可能成为攻击者的目标。一旦被攻破，攻击者可以利用这些设备作为跳板，进一步侵入网络系统，窃取或破坏数据。

再者，人工智能本身也可能成为安全威胁。例如，深度学习模型可能被对抗性攻击所欺骗，导致错误的决策和判断。此外，人工智能系统的训练数据如果被污染，也可能导致模型学习到错误的模式，从而影响系统的安全性和可靠性。

此外，传统的网络安全治理方法在面对新型的网络攻击时显得力不从心。随着攻击手段的不断进化，传统的安全策略和工具可能无法有效应对新型的威胁。这就要求网络安全治理者不断更新他们的知识和技能，采用更加先进的技术和方法来保护数据安全。

中国电信的AI“安全锁”

在人工智能的科技竞赛中，中国电信作为行业的领军企业，以技制技，主动锻造“安全锁”，着力提升AI技术的自主权，构建纵深防御的内生安全体系，提升AI的安全。

在国际合作与标准制定方面，中国电信积极参与国际标准的制定，推动AI技术的安全标准国际化。例如，中国电信与国际电信联盟（ITU）等组织合作，共同研究和制定AI安全相关的国际标准和最佳实践。

在自主研发方面，中国电信投资研发具有自主知识产权的AI芯片，以减少对外部供应商的依赖，增强技术自主权。例如，中国电信与华为合作开发了基于华为Ascend系列AI处理器的解决方案，这些处理器专为高性能计算和AI训练设计，提供了强大的数据处理能力。

在安全监控方面，中国电信利用AI技术，开发了智能监控系统，用于实时监测网络流量和异常行为。通过机器学习算法，系统能够自动识别潜在的安全威胁，并采取相应的防御措施。例如，中国电信在网络边界部署了基于AI的入侵检测系统（IDS），有效提升了对网络攻击的响应速度和准确性。

在应急响应方面，中国电信建立了完善的网络安全应急响应机制，能够在发生安全事件时迅速响应，减少损失。例如，中国电信成立了专门的网络安全应急响应团队，负责处理各类网络安全事件。

在人才培育方面，中国电信注重AI安全人才的培养，通过与高校和研究机构的合作，建立了人才培养计划和研究项目。这不仅提升了员工的安全意识和技能，也为AI安全领域输送了高质量的专业人才。

总而言之，多年来，中国电信深耕AI安全，不仅提升了自身的AI技术安全水平，也为整个行业的安全发展树立了标杆。

AI+安全纵深发展

人工智能作为新质生产力，正推动着各行各业的智能化转型，推进AI+安全纵深发展变得至关重要。在日前举行的2024第十二届西湖论剑·数字安全大会上，各界人士就如何应用人工智能技术赋能数字网络安全进行讨论和交流。与会人士认为，网络安全已进入人工智能阶段，“AI+安全”是网安行业未来发展的方向，同时AI技术的双刃剑效应以及行业发展环境需多方共同破解完善。

在金融服务行业，银行和金融机构正在利用AI进行欺诈检测，通过分析交易模式和用户行为，实时识别可疑活动，有效防止信用卡欺诈和身份盗窃。这种基于AI的欺诈检测系统能够快速识别异常交易，及时发出预警，减少金融机构的损失。

在医疗保健行业，AI的应用正在保护患者数据和医疗记录的安全。通过加密和访问控制技术，AI系统能够确保数据的安全性和隐私性，防止数据泄露和滥用。此外，AI还能够辅助医生进行诊断和治疗，提高医疗服务的质量和效率。

在制造业，AI的应用正在帮助企业监测工业控制系统，预防潜在的网络攻击，保护关键基础设施免受损害。通过实时监控和分析工业控制系统的运行状态，AI系统能够及时发现异常行为，预警潜在的安全威胁，保障生产过程的稳定和安全。

随着AI技术的不断发展和应用，网络安全领域将迎来更多的创新和发展机遇。AI技术将与区块链、物联网、5G等新兴技术深度融合，形成更加全面和强大的安全防护体系。同时，AI技术也将推动网络安全服务的个性化和定制化，根据不同企业或个人的需求，提供更加精准和有效的安全解决方案。

本文来自【通信信息报社】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt