人工智能会对网络安全造成严重破坏吗？

当人工智能领导者们争论什么是安全的人工智能以及这是否意味着我们正走上毁灭之路时，网络安全社区仍在努力思考如何才能最好地保护我们的企业和客户。人工智能带来了巨大的挑战和机遇、大量新应用和快速发展的威胁。这使得网络安全社区合作领先于不良行为者比以往任何时候都更加重要。

人工智能如何为黑客和恶意攻击者提供力量

2022年，物理安全事件给企业造成了1万亿美元的损失，而人工智能驱动的网络攻击继续表现出更高的复杂性、速度和适应性。虽然这使得它们更难检测和缓解，但DarkGPT和FraudGPT等产品让恶意行为者更容易造成伤害，而无需任何编码技能。

人工智能算法可以将来自社交媒体和其他来源的大量数据转化为高度针对性和令人信服的网络钓鱼攻击或其他形式的社交工程。例如，在利用生成式人工智能的竞争中，黑客已经利用假的ChatGPT网站和模仿真实网站的网络钓鱼诈骗来利用普通用户。当这些攻击针对毫无戒心的员工时，它们可以提供对关键系统的未经授权的访问。

与此同时，为了快速进入市场，合法的GenAI客户在开发应用时往往没有将安全性作为优先事项。由于Google的Gemini等产品容易受到攻击，早期采用者正在使用第三方应用程序扩充员工队伍，而这让他们处于危险之中，这意味着员工可能会在不知情的情况下故意泄露企业的敏感信息。

随着网络安全社区学会防御一系列人工智能攻击，该技术只会助长不法分子的气焰。我们的团队将面临越来越高级的高级持续性威胁(APT)以及更复杂、更具有规避性的恶意软件，这些恶意软件能够以更高的精度和速度渗透和操纵工业控制系统。

人工智能如何赋能网络安全防御者

在人工智能加速发展的世界中，安全领导者面临的挑战比以往任何时候都要快。值得庆幸的是，我们拥有同样的技术，我们可以利用人工智能解决方案来加强防御，并针对不良行为者发起主动行动。

通过将AI/ML类型的模型纳入安全程序，我们的网络安全团队可以更深入地了解我们的数据，并发现我们原本会忽略的风险。与自动化相结合后，AI工具可以筛选海量数据集、比较数据集群行为，并在人类同行之前对潜在危险做出反应，从而快速将暴露的系统与公司的基础设施隔离开来。

此外，正如恶意攻击者使用GenAI制造更强大、更具欺骗性的威胁一样，企业也可以使用该技术构建主动训练场景。在这种受控环境中，团队可以练习、测试和改进防御能力，从而为应对各种真实攻击做好准备。在日常工作中，可以实施GenAI，使CISO能够使用自然语言询问有关其计划的问题，并获得具有预测性见解的准确答案。

虽然员工培训和教育仍然至关重要，但击败当今的网络犯罪分子需要强大且不断发展的技术防御。

网络安全高管的新角色

AI可以帮助提供早期检测警告和更快的响应时间，以便在该时间段内识别违规行为。随着职责的增加，如今的CISO不再像以前那样身处战壕。他们更有可能从更高的角度观察他们的计划，使他们能够采取更全面的方法制定网络防御策略，并用可操作的数据情报指导他们的团队。

对于CISO来说，拥抱AI/ML对于实现这种整体视角并帮助分析他们需要筛选的大量数据至关重要。

总结

随着人工智能的能力似乎以惊人的速度增长，它不断为双方带来新的可能性。为了领先于被赋予权力的坏人并塑造一个有弹性和适应性的生态系统，网络安全社区必须共同努力，发掘和拥抱风险管理和威胁防御中的可能性。

责任编辑：

文章来源：http://www.anfangnews.com/2024/0506/11480.shtml