人工智能：安全大于天（深度）.docx

人工智能：安全大于天（深度） 1.?AI大模型催化，网络安全产业机会与挑战并存 ——?“安全”、“AI安全”与“安全的AI”同等重要 网络安全威胁日益加剧。随着互联网应用普及化，所对应的网络威胁数目随之上升，而且其复杂性也相对增加，对网络安全带来了巨大挑战。如今移动设备、物联网、云计算在企业中的应用日益普及，攻击面也相对增加。此外，黑客可以利用人工智能来不断变形病毒/恶意软件，而传统的静态防御解决方案未必能对此有效检测以及阻断。另外，网络攻击服务化（Cyberattack-as-a-Service）令网络攻击变得普及，攻击者自身不须拥有强大的黑客知识亦可以通过支付加密货币获得攻击工具。 人工智能在网络安全方面的作用是帮助组织降低入侵风险，并改善其整体安全状况。人工智能通过从过去的数据中学习来识别模式和趋势，然后这些信息被用来预测未来的袭击。人工智能驱动的系统还可以配置为自动响应威胁，并在更快的时间内对抗网络威胁。随着企业攻击面不断发展和演变，时而必须处理多达数千亿的时变信号以正确地计算风险。为了应对这一前所未有的挑战，神经网络等人工智能工具和方法不断发展，以更有效和高效的威胁检测和威胁消除功能，帮助信息安全团队保护敏感信息、降低入侵风险、降低安全运营成本、改善安全态势。再者，随着大模型潮流兴起，网络安全的产品能力、平台运营能力以及安全服务都有望迎来全面的优化升级。 虽然AI及大模型能够有效赋能网络安全产业，但AI大模型本身的安全保证也十分重要。在此方面，既要能应对利用大模型等AI技术进行网络攻击的风险，又要保证大模型本身的安全性。要考虑前者的原因是，大模型降低了黑客代码和攻击策略设计的门槛，使得攻击成本降低。要考虑后者的原因是，大模型本身的对齐、可解释性等问题使得其应用存在一定隐患。 OpenAI对安全构建AI系统尤为重视。2023年4月6日，OpenAI官方发布了《Our approach to AI safety》文章，探讨了如何安全地构建、部署和使用人工智能系统的六大策略。Sam Altman在北京智源人工智能大会上，也主要强调了AGI安全的重要性。AGI未来将在诸多领域超越人类智慧，正因如此，AGI风险空前高涨，若没有控制和约束AGI，AGI可能会往人类无法预测的方向发展，对人类生活造成严重威胁。 综上，新技术浪潮下的网络安全产业需要考虑四重安全。第一步是做好传统网络安全防护，第二类是用人工智能相关算法或大模型对网络安全产品进行增强，以及对服务的优化赋能。该阶段要保证AI大模型赋能网安的过程中，AI系统和网络安全产品的集成能有效融合。第三，要保证大模型输出的AI能力的原生安全（在当前对齐、可解释性等问题尚未有效解决的前提下，也至少要保证安全风险不能被AI放大）。最后，大模型本身的安全防护也十分重要，因为其作为AI能力输出的基石，本身的安全稳定有着根本性支撑作用。 ——网络安全与人工智能技术结合具备天然优势 要弄清楚AI在网络安全领域中的作用，首先要回顾下网络安全产品本身的构建思路。网络安全的构建思路以红蓝对抗为角度，即根据黑客攻击的时间顺序来进行对应的防护。首先要进行最大化收敛互联网上的暴露面，第二步是对边界的防护，也就是根据暴露内容部署相应的安全问题防护以加固边界，接着要进行区域控制，即监控手段建设，最后一步是做强控。整个过程按照事前、事中和事后来建设网络安全。 网络安全单点产品的能力可以基于人工智能算法得到增强。前期的资产梳理、安全漏洞排查以及边界的防护方面，都需要防火墙、IDS/IPS等产品部署，而与传统的软件驱动或手动方法相比，机器学习技术可通过结合来自主机、网络和云上的反恶意软件组件的大量数据来改进恶意软件检测；深度学习使用大量数据来训练深度神经网络，此举也能助力防范各类攻击。比如Google利用深度学习来检测难以检测的基于图像的电子邮件、含有隐藏内容的电子邮件，以及来自新形成域的通信，这有助于检测复杂的网络钓鱼攻击，包括与垃圾邮件有关的互联网流量模式；深度学习架构可以用于发现隐藏或潜在的模式，并随着时间的推移变得更加环境敏感，这有助于识别零日漏洞或活动，例如自然语言处理可以扫描源代码中的危险文件并标记它们，“生成对抗网络”可以学习模仿任何数据分布，也可以在识别复杂缺陷方面有用。 态势感知平台是AI技术应用的重要场景之一。面对越来越专业的恶意攻击，已无法再用传统的边界隔离理念、日渐臃肿的攻击特征库与黑客多变的渗透技术、隐蔽的信道相抗衡了。因此，通过态势感知平台调动各类单点网络安全产品来形成安全合力十分有效，因为本质上讲，网络安全就是发生在虚拟世界的攻防战，速度为王，而态势感知平台的作用就是分析安全环境信息、快速判断当前及未来形势，以作出正确响应。这个过程本就是人工智能的智能研判、决策分析的用武之地。例如，对于