自从2022年11月30日OpenAI首次公测ChatGPT至今短短三个月内大量参与测试的网络安全专业人士对生成式人工智能的看法从最初的不屑和傲慢变成了今天的兴奋甚至恐惧。

毫无疑问ChatGPT对于网络安全有着革命性的意义。已经有无数例子说明ChatGPT有能力改变各种黑帽子游戏规则。在首个公开的概念验证中纽约大学教授Brendan Dolan-Gavitt使用ChatGPT来利用缓冲区溢出漏洞。其他安全专家的ChatGPT应用案例包括以闪电般的速度编写恶意软件以及制作令人信服、语法正确的网络钓鱼电子邮件。

人工智能在网络安全领域的武器化并不新鲜但ChatGPT最让人兴奋的是它有望解决困扰网络安全行业多年的难题人才和技能短缺问题。目前网络安全行业在网络安全技能即专业化的广度和深度方面都缺乏足够的人才。以下是ChatGPT将在2023年深刻改变网络安全行业的三种方式。

1、撬动众包威胁情报

很长一段时间以来网络安全行业的圣杯之一是成功实施众包威胁情报。众包情报的重要价值在于能够看到具体垂直行业内大量公司正在发生的事情。不幸的是众包情报最大的障碍是组织之间缺乏共享情报的信任编者难以打破的纳什均衡。这也是困扰各行业信息共享和分析中心ISAC多年的难题。

未来ISAC可以使用其自然语言界面对ChatGPT模型进行迭代并基于组内的隐式信任向其提供ISAC成员提交的日志数据。然后ISAC可以使用ChatGPT关联网络连接、恶意IP地址和域的类别以及类似行为。结果可能会产生一组IDS规则ISAC成员通过实施这些规则来保护自己免受威胁。ISAC还将深入了解其所代表行业的整体风险状况。

2、大幅提高安全运营能力和效率

人才和预算短缺正在成为CISO面临的最大难题而ChatGPT则有望帮助企业充分利用现有资源大大提高安全运营效率和能力。因为ChatGPT可以让安全分析师完成过去需要多人完成的工作。

安全通才和入门级员工可以描述他们在警报和检测中看到的内容然后要求ChatGPT破译他们的观察结果以快速启动分类流程。一个具体的例子是帮助安全从业者每天对可疑的恶意代码进行去混淆处理这通常需要一个小时或更长时间。而在ChatGPT的帮助下这个工作现在可以在几秒钟内完成。

ChatGPT还具有改变事件响应的潜力。团队可以使用现有模型和自然语言处理来提供有关事件的所有可用数据并描述潜在响应的基本原理。然后ChatGPT可以立即证明或证伪有关攻击的假设。如今在ChatGPT的帮助下只需要一名事件响应负责人、一名工程师和几名分析师花费数天的时间就能完全解决一个事件。可以预见在不久的未来企业安全运营中心的事件响应流程甚至根本不需要分析师

3、将恶意软件攻防提高到一个新的水平

如今虽然攻击者每年生成1亿个新的恶意软件样本但这些样本都需要手动编码所以仍然是一个有限的、可管理的签名检测量。然而借助ChatGPT黑客甚至不需要编码就可以生成一个恶意软件的数十万次迭代。

这意味着安全防御者必须尽快重新计算检测引擎的机器学习模型因为不久的将来需要处理的恶意软件检测数据集的规模要大得多。幸运的是ChatGPT同样也是防御方的利器它将加强逆向工程能力大大提高反恶意软件工作的效率。

例如一个重大的逆向工程挑战是通用文件名此类文件名不提供样本来源的任何上下文信息。这需要更多的手动工作来识别其所针对的系统。不同样本的二进制汇编代码会有一些细微的变化决定其分析结果——例如它是为32位还是64位架构编写的系统使用的是Little Endian还是Big Endian这个结果决定了研究人员阅读机器语言的方向向前或向后。

如果没有上下文所有这些分析都需要反复试错。而ChatGPT可以惊人的速度运行这些迭代并为逆向工程师提供最终的汇编语言并从那里进行处理。甚至你想工程师还可以让ChatGPT以自然语言告诉他们恶意软件在做什么。更重要的是ChatGPT可以大规模执行所有这些操作分析数十万个二进制样本并向分析师提供分析观点。

ChatGPT还可以帮助防御者攻克恶意软件常见的反逆向技术。例如恶意软件通常包含嵌套循环等反逆向工程技术使逆向工程师更难跟踪正在发生的事情和最终状态。ChatGPT可以比人类更快地解决这个问题。它还可以分析恶意软件的遗传代码查看可能存在代码重用的位置以便更快地识别开发者的指纹。