在我们更快享用AI给业务带来便利的同时，与其相生相伴的安全问题也更快地来到了我们的面前。这样，在留给我们更短反应时间时，我们如何才能更好地适应新的安全形势，派拓网络(Palo Alto Networks)大中华区售前总经理董春涛就此分享了自己的观察结果。

派拓网络大中华区售前总经理董春涛

　　AI应用奇点背后的安全隐忧

　　在经历了持续的百模大战之后，我们对于AI应用的落地情况究竟如何，也许并不清楚。而事实上，2024年AI用户已经达到了2.5亿的数量级，但2024年只能算是AI应用落地的一个奇点。因为在2027年，这个数字就将变成5亿，更有预测表明，2029年这一数字将变成10亿，2032年将变成30亿，未来这一数字终将变成50亿。AI应用落地普及不仅体现在用户增长速度上，更多具备预见性、自适应、自学习的应用的出现，还会让AI应用的质量得到提升。

　　由此带来的变化，是AI应用的激增和SaaS应用得到AI赋能。2023年，业内还只有1600个AI应用，到了今天，这一数字已经增长到2000多个。并且这只是一个开端，AI应用将在2030年预计实现5倍的增长，达到12000多个。目前所有的SaaS应用，都将得到AI赋能。目前8000个有AI功能的SaaS应用，也会在2030年达到6万个。

　　无论我们是否已经准备好，AI的旅程都已经开始，并且 AI应用的激增将彻底改变企业的运营模式。董春涛对此颇为感概地说：“在我们发布AI应用报告之后，我们就发现我们的数字太保守了。因为报告认为43%的用户正在使用AI，96%的用户可能在未来12个月使用AI，但在实际工作中，我们了解到已经有超过50%的用户已在大规模使用AI了。”

　　与以往的安全防护情形不同，尽管AI应用之旅刚刚展开，但AI却已经给安全防护带来了新的麻烦。董春涛认为AI安全防护从起始就要兼顾三个方向。

　　派拓网络针对用户的调查显示，50%的员工不知道在什么情况下使用AI APP，同时很多研发人员已经使用了AI工具，更有开发团队在利用AI工具进行代码审核，或者干脆利用AI生成一些应用。但另一方面，目前80%的模型存在可以被越狱的情况，更有一百多种恶意模型在四处传播。因此，要确保AI应用安全，就需要确保AI的应用、开发、生命周期以及供应链的每一个环节都是安全的，在任何时候都要确保AI数据不被没授权的访问，同时还要防止AI的使用过程中发生数据泄露。

　　为此，就首先要实现每位员工对于AI用户场景访问的保护，其次是企业会大量研发AI应用，或者采用第三方的AI应用，这些AI应用需要实时保护。在此之外，由于AI应用环境会长期处于高速演进之中，所以还需要实现AI的安全态势管理，以增加对整个安全态势的可见性。

　　AI安全保护的三个方向

　　了解了AI安全防护的三个方向，从用户角度来看，就一定还要寻找在对应方向上取得成功的工具。对此，董春涛做了相应的介绍。

　　为了便于理解，我们还需要先了解一下派拓网络的Precision AI。Precision AI是派拓网络自主开发的创新AI方法，它将生成式AI(GenAI)与机器学习(ML)和深度学习(DL)功能相结合，利用全面的数据和经过验证的操作手册来提供指导性自动化和可操作的洞察，从而创建更有效的助手。借助Precision AI，助手可以利用丰富的数据和成熟的操作手册，提供可操作的洞察力、自动化和指导性行动，从而更有效地发挥助手作用。

　　在Precision AI的驱动下，新一代助手Strata Copilot、Prisma Cloud Copilot 和 Cortex Copilot被研发出来，并且被无缝嵌入派拓网络的各个安全平台。Strata Copilot、Prisma Cloud Copilot 和 Cortex Copilot 利用自然语言的强大功能与简易性，帮助安全分析师快速轻松地发现、了解并阻止威胁，防患于未然。其中，Strata Copilot可与 Strata Network Security平台协同工作，这样就保证了安全访问服务边缘(SASE)以及下一代防火墙(NGFW)的部署。Prisma Cloud Copilot支持整个Prisma Cloud、 Code to Cloud 平台，协助开展风险优先级别排序、修复、威胁检测和报告。Cortex Copilot 通过Cortex XSIAM平台提供，使SOC更加高效和有效。

　　将生成式AI技术融入原来建立的安全体系之后，派拓网络就具备了实施三方向AI安全的基础。应对用户在AI安全防护的三个方向，派拓网络的做法是从源头开始规划部署AI安全。

　　首先应对的是AI的访问安全，确保企业员工访问AI都是安全的，这其中不仅要保障员工访问AI的全面可视化，还要实现AI的数据保护以及访问的颗粒度控制。

　　其次是保障AI的安全态势管理。要把整个AI生态中包含的源代码、数据集、代理等扫描出来，做到可视化呈现。还要列出用到的AI应用中，到底用到了哪些数据和API，然后再根据自己的知识库，实现实时的评估和风险识别，再用分级分类的方式呈现出来，让管理员对整个应用开发的生命周期做到统一的可视化管理。

　　最后是实现对于AI应用的保护。目前许多规模较大的企业已经采用自研或直接用第三方应用的方式，将AI应用上线了。董春涛表示：“AI应用上线之后，用户会发觉跟传统的应用保护不太一样，因为除了要对AI应用本身提供保护之外，还要保护数据集和模型，使它们不会受到侵蚀模型的攻击。比如很常见的聊天应用程序，就要关注如何不被提示词注入侵害。针对AI应用安全防护，我们已经有一整套的方法论去保护AI应用体系。”

　　为什么要用AI对抗AI

　　在AI应用带来一系列安全问题的同时，AI也让安全防护的环境发生了极大的变化，这使得应用AI对抗AI成为一种必然，安全防护工具也必然随之发生变化。这实际上也是AI应用走向成熟时，给用户和安全厂商提出的一个新课题。对于安全厂商来说，需要提供新的工具，而对用户来说，需要就此转变安全观念。

派拓网络大中华区售前总经理董春涛

　　董春涛对此介绍说：“攻击者、黑客都在采用AI技术来快速产生新的威胁。通过AI赋能，他们可以轻松攻击更多目标，以闪电般的速度扩大攻击范围。比如当AI被恶意利用之后，勒索软件从12小时的传统时间规模跑到了分钟级，数据泄露也由几天的量级跑到分钟级的量级，漏洞利用也从几周的量级跑到分钟级。这样，当AI被大规模采用之后，安全态势完全改变了。“

　　也正是因为这个原因，AI时代利用人工防御保障AI应用的安全，显然不太现实。安全系统需要实时性和自动化，安全防护的本质就成了一场与威胁的赛跑，要持续监测和检测异常和破坏行为，才能做到立刻反应和对事件发生的实时应对。所以采用高度自动化的系统来抑制和消除威胁，从而减少人工介入，是一种必须的选择。而派拓网络提出的Precision AI，其出发点正在于此。利用它，通过构建更高攻击检测率和识别率的系统，才能达到更高可信度的实时检测响应能力。

　　从这个角度来看，AI应用将我们引入一个新时代之后，并不是要将原有的安全体系推倒重来，而是要针对新问题，引入新的解决办法。Precision AI技术也是沿用了这一思路，在原有的安全体系中，赋能了包括网络安全、云安全、端点安全和安全运营中心在内的所有安全平台。

　　用AI对抗AI，并不是说要离开人的干预。在现阶段，其本质就是用AI改变安全从业人员与AI技术的交互。目前安全产品多而杂，复杂的配置、数量繁杂的定制化工具，以及工作流之间的频繁转换，还有各种能力之间的频繁转换，正在给安全行业带来巨大的挑战。这种挑战不仅来自技术复杂度本身，在AI应用落地时代，还要面对攻击不断提速的新问题。

　　针对此问题，派拓网络在三大平台上都可以部署的Copilots工具，采用了大语言模型的技术，利用多年来积累的数据和经验，不断培训自己的大模型，使它基本具备了跟安全管理人员进行自然语言交互的能力。这样就让安全工具的系统之间的使用门槛降低，从而让安全从业人员更轻松地使用日渐繁杂的系统。

　　针对用AI对抗AI这一话题，董春涛进一步介绍说：“我们的最终目标，一定要走到自动化运营，将AI与安全融为一体，达到自适应、自学习，完全做到自主安全。”

　　事实上，国内的企业应对这场AI风暴，已经做好了准备。英国标准协会(BSI)最新发布的国际人工智能成熟度模型调研中揭示，中国企业在将人工智能融入企业运营，让员工为AI给工作带来的变化做好准备，并将AI作为一股向善的力量方面准备更加充分。

　　中国企业对于在未来五年投资AI表现出强烈意愿，从所有评估指标得分来看，中国和印度处于领先地位，美国位居第三。并且在受调查企业中，所有中国受访者(100%)都强调了培训员工安全、有效且合乎伦理道德地使用AI工具的重要性。从这个角度来看，Precision AI来得正是时候。

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。