“要么死得像个英雄,要么活得够久,亲眼看着自己变成反派。”——蝙蝠侠
人工智能、机器学习和威胁情报能够识别数据中的模式,使安全系统能够从过往经验中学习。此外,人工智能和机器学习使企业能够缩短事件响应时间,并遵循安全最佳实践。然而,正如本文所述,生成式人工智能工具带来了新的威胁,需要人工智能工具开发者和网络安全专业人员共同应对。
人工智能利弊并存的一个典型例子是"模糊测试"——这种方法通过向系统输入大量随机数据来识别其漏洞。人工智能能利用模糊测试快速检测海量输入数据。微软曾运用模糊测试来提升其软件安全性。然而,黑客同样可借此手段探查系统弱点。
人工智能虽能提升安全性,但同时也会使网络犯罪分子更容易在无人干预的情况下入侵系统。
近期一系列概念验证攻击展示了如何构造看似无害的可执行文件,使其在每次运行时都会向ChatGPT发起API调用。该攻击不仅能复现已编写好的代码片段,更能通过提示使ChatGPT在每次调用时生成动态变异的恶意代码版本,导致生成的漏洞利用程序难以被网络安全工具检测。
查看引用文章