在这样的条件之下，在Palo Alto Networks(派拓网络)Unit 42咨询总监刘俊佃看来，这必将引导我们进入一个AI对抗AI的年代，络安全技术和策略也将因此而发生一系列转变。

派拓网络Unit 42咨询总监刘俊佃

　　生成式AI带来新风险

　　GPT-1发布于2018年6月，而只到2023年3月发布GPT-4，生成式AI才真正进入井喷的阶段。但时至今日，生成式AI并没有进入大规模企业应用阶段，只有先行的公司在内部进行着少量的实验性应用。但如果你认为生成式AI给安全造成的麻烦，同样停滞于这样的阶段，那么你就要当心了，因为ChatGPT的“邪恶孪生”至少有7种方法让你中招。

　　刘俊佃列举了其中几种。早在ChatGPT刚刚掀起AI热潮，就有专家一直警告称，诸如Open AI的ChatGPT之类的大型语言模型可能会被恶意烂用。

　　不幸的是专家的话得到了验证，WormGPT随即涌现出来。WormGPT专门使用恶意软件数据进行训练的模型，但是它没有安全护栏、没有底线，它可以很容易地被别有用心的人提示创建基于Python的恶意软件。

　　生成式AI的出现，可以减轻一部分的工作压力，生成文本、图像、视频，或者应用在医疗、教育等领域给我们的生活带来创新和便利。但是在不法分子手中，类似WormGPT这样的工具生成的电子邮件不仅非常有说服力，而且在策略上也很狡猾，展示了其进行复杂网络钓鱼和BEC攻击(企业电子邮件攻击)的潜力。

　　FraudGPT的“成功“标志着生成式人工智能武器化和黑客攻击技术民主化的危险时代已经到来。或者换句话说，它让网络攻击的门槛一下子降低了。

　　FraudGPT将过去复杂的黑客攻击技术通过生成式人工智能工具变成了技术小白也能轻松使用的自动化服务，例如编写恶意代码、创建无法检测的恶意软件、编写令人信服的网络钓鱼电子邮件等，都是它的长项。由此造成的后果，就是原来三个月才能写成的恶意代码，现在却只需要三分钟就能完成。

　　FraudGPT也凭借这个特点，迅速流行起来。只要交每月200美元或每年1700美元的订阅费，任何人都可以借此成为黑客。而到目前为止，FraudGPT已经拥有超过3000个订阅者。Palo Alto Networks甚至早在2022年11月下旬ChatGPT发布之前，就发出过警告：包括国家支持的网络黑客组织在内的攻击者开始将生成式人工智能武器化。

　　深度伪造是另外一项威害极大的技术。如果你在微信上看到熟人借钱的视频，并且话筒里传出你熟悉的声音，情急之下，你帮还是不帮?如果你转账，AI换脸技术等先进的深度伪造技术，就可能让你上当受骗。而当深度伪造与勒索行为混合在一起时，还会让许多受害者被迫支付赎金。

　　在此之外，还出现了多形态人工智能恶意软件。其中，Deep Locker 使用深度神经网络 (DNN)人工智能模型，将其攻击有效载荷隐藏在良性载体应用程序中，而有效载荷只有在达到预定目标时才会解锁。而“黑曼巴 (Black Mamba)”概念验证攻击让恶意软件在运行时动态修改良性代码，而不需要任何命令与控制(C2) 基础设施，从而使其能够躲过当前的自动安全系统。

　　刘俊佃将常见的AI攻击归结为三类：“第一类就是用AI来写木马程序，然后利用那个木马程序去进入被攻击者的环境里。第二类是利用AI写高可信度的钓鱼软件，第三类是利用AI进行更快速的攻击。”

　　由于生成式AI可能快速演化出更多种类、更大威害的攻击，刘俊佃强调：一个AI对抗AI的时代已经到来，因此不可能单纯靠人力去进行事件响应，而必须要用AI来协助。

　　站在技术潮头

　　面对这样一个AI对抗AI的时代，人们接下来所想的，理所当然就是如何应对这个时代。

　　对此，刘俊佃表示：“我们必须看到，AI技术的进化不是一天完成的，在AI的进化过程中，派拓网络和其旗下的Unit42，一直对AI安全威胁信息保持着高度关注，也进行了大量的相关研究，我们已有一些相应的解决方案。在策略方面，我们希望用户做出转变。首先是我们不可能利用人力去阻挡AI攻击，利用AI对抗AI是唯一的解决出路。其次AI已经让我们见识了更快、更强、更精准的攻击模式，所以我们之前所了解和熟知的一些防御模式和方法必须要做出改变。”

　　具体说来，刘俊佃将这些转变总结成了六个步骤。首先是要转变对于成功的看法，不仅仅只是预防攻击。其次是要优先考虑能限制攻击者并为防御者提供回旋空间和时间的防御。接下来还要精简防御，实现可重复性和自动化。还要实现7X24的全天候监控，增加攻击者的时间压力，并且要测量并减少外部攻击面。最后也是最重要的一点，是过渡到零信任企业，增强安全措施。

　　从工具层面讲，派拓网络有一个安全公式：零信任+平台=前瞻性。零信任指的是杜绝任何隐含信任并以持续验证为基础的策略;平台指的是根据需求连接不同类型的最佳功能，实现最大的可见性、控制和效率;前瞻性指的是轻松安全转型，让企业在安全的环境下高效地运营和创新。

　　相比单点安全产品的大量叠加，平台化的解决方案可以实现全面、自动化的安全防御，真正做到主动有效地保护企业的网络安全。派拓网络的下一代网络安全平台可以从网络、云、端点三个维度应对数字经济时代的安全挑战，并在所有安全方案之上提供一套自动化安全运营分析系统。而这一切都是依托于派拓网络在全球的安全威胁情报网络——一个由顶级安全分析专家组成的专业安全团队Unit 42，对全球发生的安全事件和情报进行及时的分析和响应。

　　共享式新发展

　　从大语言模型的角度来看，越来越多大模型地走上了开源之路，同时新版GPT也让基于它的开发变得越来越容易。这让更多技术人员融入了进来，同时也让黑客们有更为便利的条件利用生成式AI创造出新型攻击。黑客们已经开始在各种论坛上交换AI攻击的心得和案例，便利的AI攻击工具让黑客们不需具备极高的技术水准，就可以更逼真、更精准、更迅速地发动攻击。这给防御者也提出了新的要求，因此防御者必须联合起来。对于防御者而言，知情就是力量，这让Unit 42的作用也凸显出来。

　　刘俊佃介绍说：“我们已经注意到，攻击者已经开始合作和分享案例，互相分享成功经验和失败的教训。因此企业与企业、企业与产业大环境之间，也应该开始更密切的合作。”

　　以往我们总是通过一份份网络安全报告认识Unit 42，而从没有走近总处在幕后的它。而实际上，Palo Alto Networks(派拓网络)Unit 42汇集了世界知名的网络威胁研究人员、事件响应专家和专业安全顾问，创建了一个情报驱动、随时响应的组织，致力于帮助企业主动应对网络风险。作为企业值得信赖的安全顾问，团队共同协作，帮助企业评估和测试安全控制措施以有的放矢地应对威胁，通过威胁通知的方式助力企业完善安全策略，并不断缩短事件响应时间，使企业尽快专注业务。

　　而当AI攻击不断演化出新方式，业界需要联合起来时，刘俊佃谈了Unit 42的新变化：“对于Unit42而言，最大的变化就在于我们要密切跟踪AI攻击演进的过程，以及AI在这个过程中是如何被使用的。我们不仅会观察攻击者利用AI采用的战略，也会仔细观察他们用什么工具包来展开各类攻击的，在此基础上又创造出了什么新的攻击形式。当企业需要联合起来应对新型AI攻击时，我们能够把自己的研究成果，以开放、免费的形式放到网站和论坛上，与大家共享。最终我们能够与大家一起，运营一个网络生态系统实现整体保护，我们的安全研究成果一定不只是Unit42独家拥有的，而是用来保护整个生态系统的。”

　　事实上，AI的破坏作用远不止于此。2023年RSAC会议上，一个专家小组讨论了CISO将在未来几年面对的即将到来的AI风险和弹性问题。讨论最引人瞩目的一个话题是一种新兴攻击——海绵攻击。在海绵攻击中，攻击者通过针对海绵结构的弱点来破坏其安全性。攻击的目标是从给定的输入中生成具有特定性质的输出。在这种攻击类型中，对手可通过特制输入来消耗模型的硬件资源，从而对AI模型进行拒绝服务攻击。也就是说，AI有可能不再作为辅助工具，而是直接参与到攻击中来。

　　早在2019年，Forrester Research就曾经预言，AI将提高攻击的规模和速度，AI将进行人类无法想象的攻击。不幸的是，这些预言在今天正在成为现实。面对越来越严峻的AI攻击，观念与工具转变，联合形成合力，将是减轻恶意利用AI进行网络安全活动的必经之路。

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。