了解人工智能和自动化技术如何提供丰厚的回报，但必须谨慎对待，以了解和最小化相关风险。

近年来，人工智能 （AI） 和自动化技术的发展极大地重塑了应用程序安全。一方面，人工智能和自动化的进步加强了安全机制，缩短了反应时间，增强了系统弹性。另一方面，人工智能和自动化的挑战造成了可利用的偏见、对自动化的过度依赖，并扩大了新出现的威胁的攻击面。

正如我们所看到的，在重新定义安全场景时，这些技术具有巨大的价值和不断增长的潜力，但我们不能忽视也存在许多挑战。说实话，每一项新技术都会为漏洞利用带来新的机会，除非得到解决，否则将损害其寻求改进的安全性。让我们来探讨一下 AI 和自动化技术如何帮助和损害应用程序安全性。

增强的威胁检测

AI 已经从基本的异常检测发展到主动威胁响应和持续监控。由于网络安全团队通常需要事半功倍，再加上需要更高的资源效率，因此 AI 威胁检测对于应对组织面临的日益复杂和复杂的网络威胁至关重要。

人工智能驱动的工具提供实时攻击检测并保持持续观察，这在威胁可能突然和意外出现时至关重要。它们的自适应学习使人工智能技术能够更快地识别模式，并采取主动行动来避免或降级潜在的威胁和攻击。此外，从过去的事件中吸取教训并适应新的威胁，使系统能够更好地抵御攻击，通过高级分析功能改进对安全漏洞或漏洞的检测。同样，向自动响应的转变也是对更有效资源管理需求的回应。

如表 1 所示，我们能够观察到 AI 检测的主要发展及其结果：

表1

提高效率和准确性

自动化为安全团队处理和管理网络威胁的方式带来了重大变化，从传统的被动异常检测转变为现代主动自动化响应。事件响应自动化影响了威胁的管理方式。它不仅加快了响应过程，还确保了一致且全面的威胁管理方法。该领域的一个显着进步是人工智能系统能够执行自动化操作，例如隔离受感染的设备以防止威胁传播，以及执行针对特定类型的攻击量身定制的复杂的人工智能驱动响应。

它还使安全团队能够更具战略性地分配资源，专注于更高级别的任务和策略，而不是常规的威胁监控和响应。通过从被动检测转向主动、自动化操作，人工智能使安全团队能够更快速、更有效地响应威胁，确保网络安全工作尽可能高效和有影响力。

减少人为错误

人工智能的使用是减少人为错误和提高整体有效安全性的重要一步。AI 的功能（包括最大限度地减少误报、确定警报优先级、加强访问控制和缓解内部威胁）共同创建了一个更可靠、更高效的安全框架。

图 1：利用 AI 解决人为错误

过度依赖自动化

将人工智能和自动化整合到各种业务流程中可以缓解安全需求，同时扩大潜在的攻击面，从而导致严重问题。这种情况需要开发专门为人工智能量身定制的强大安全协议，以防止其成为安全框架中的薄弱环节。

随着人工智能变得越来越普遍，网络攻击者正在适应并更深入地了解人工智能系统。这种专业知识使他们能够利用人工智能算法和模型的弱点。因此，网络安全策略必须不断发展，以抵御传统威胁和针对人工智能漏洞的复杂威胁。每个 AI 系统、接口和数据点都代表一个可能的目标，需要一种强大的网络安全方法，涵盖组织内 AI 和自动化的所有方面。

这种不断变化的环境需要不断识别和缓解紧急风险，这意味着必须定期评估和调整安全策略，以解决新漏洞的动态过程。这种不断变化的网络安全挑战凸显了在防范人工智能和自动化相关威胁方面保持警惕和适应性的重要性。

可利用的 AI 偏见

确保人工智能系统的完整性和有效性涉及解决其训练数据和算法中存在的偏见，这可能导致结果偏差并可能危及安全措施。改进这些算法的努力正在进行中，重点是使用不同的数据集并实施检查，以确保公平和公正的人工智能决策。

如表 2 所示，在 AI 安全功能与道德和隐私意识使用需求之间取得平衡是一项重大且持续的挑战。它需要一种全面的方法，包括人工智能实施的技术、法律和道德方面。

表2

恶意使用的可能性

人工智能和自动化不仅带来了进步，也带来了重大挑战，特别是在如何被恶意行为者利用方面。人工智能的自动化和学习能力可用于开发更具适应性和弹性的恶意软件，对传统的网络安全防御构成挑战。

图 2：人工智能和自动化的恶意使用以及各种挑战

虽然人工智能旨在提高效率，但它引发了对此类自动化操作的可靠性和潜在意外后果的质疑，强调了将人工智能谨慎整合到网络安全战略中的必要性。

疏忽和安全监督

人工智能和自动化的出现不仅改变了安全性，也改变了监管。2023 年是人工智能技术监管的转折点，这在很大程度上是因为它们越来越复杂，无处不在。总体情绪倾向于采取更严格的监管措施，以确保负责任、合乎道德和安全地使用人工智能，尤其是在网络安全方面。

NIST人工智能风险管理框架和人工智能问责法案等监管举措是这一安全挑战的核心。这些旨在为 AI 开发、部署和管理制定指南和标准。NIST框架为评估和减轻人工智能相关风险提供了一种结构化的方法，而《人工智能问责法案》则强调人工智能运营的透明度和问责制。

然而，人工智能和自动化的采用带来了重大的网络安全困难。实施 AI 应用程序的技术、社会和组织挑战带来了更大的障碍，再加上将强大的 AI 算法集成到当前网络安全设计中的成本不断增加。这些考虑因素为在不确定的监管环境中运营的组织提出了艰巨的任务，即在领先的边缘安全保护措施的实际实施和合规性之间保持微妙的平衡。

归根结底，这种平衡对于确保有效利用人工智能和自动化的优势，同时遵守监管标准并保持合乎道德和安全的人工智能实践至关重要。

结论

人工智能和自动化技术的双重性质表明，它们提供了巨大的回报，但必须谨慎对待，以了解和最小化相关风险。很明显，虽然人工智能和自动化的使用通过增强的检测能力、更高的效率和自适应学习来增强应用程序的安全性，但它们也引入了可利用的偏见、对自动化系统的潜在过度依赖，以及对手的攻击面扩大。

随着这些技术的发展，对我们来说，采用前瞻性框架非常重要，该框架假定采取积极和平衡的安全方法。这不仅需要利用人工智能和自动化的优势来提高应用程序安全性，还需要不断识别、评估和减轻它们带来的紧急风险。归根结底，我们必须保持警惕，因为随着这些技术的发展，适应新风险的义务也在增加。

资源

• "Thune、Klobuchar 发布两党 AI 法案，“Rebecca Klar，The Hill
• 人工智能 2023 年立法，NCSL
• 人工智能风险管理框架 （AI RMF 1.0），NIST

原文标题：AI and Automation

原文链接：
https://dzone.com/articles/ai-and-automation

作者：Jihana Barrett

编译：LCR