网络安全中的AI：明确战略方向.pptxVIP

《网络安全中的AI：

明确战略方向》

减少干扰、有效管理风险并全面释放AI技术的价值。

生成式AI

来源：Gartner

Gartner官网成为客户

围绕AI及生成式AI（GenAI）的热潮正迅速改变传统商业运作模式，同时也为本就充满挑战的安全环境带来了全新的风险和挑战。风险不断加剧，而AI的潜力却尚未完全释放。

不过，昨日的颠覆蕴藏着明日的机遇。在外界炒作的背后，AI蕴含着深远的战略价值，值得深入挖掘。

AI无疑将重塑企业的运营方式，包括安全领域。随着AI带来的挑战日益凸显及其应用的不断成熟，企业应重点关注以下需求：

•精准评估AI的影响

•优先聚焦关键风险领域

•深化AI价值挖掘

•预见未来趋势

摒弃盲从，最大限度发挥

AI在网络安全中的价值

平衡网络安全现实需求与GenAI愿景

《网络安全中的AI：明确战略方向》2

间接且令人担忧

•潜在隐私风险及威胁行为者引发担忧

•业务实践变革带来新的攻击面

间接且潜在

•GenAI的持续应用需求推动安全举措与时俱进

•新法规与合规要求迫使安全团队提前布局

•潜在的技能短缺与人才挑战带来不确定性

Gartner官网成为客户

精准评估AI的影响

我们的分析显示，近90%的企业仍停留在研究或试点生成式AI（GenAI）的阶段，其中绝大多数尚未落实AITRiSM（信任、风险与安全管理）的技术手段或政策。这一现状正在重塑安全生态。领导者们面临多重影响：

直接且紧急

•第三方应用对敏感数据的非受控使用

•版权侵权导致的品牌声誉风险

直接但被夸大

用于激发市场关注的GenAI早期夸大宣传

降低干扰管理风险释放AI价值

《网络安全中的AI：明确战略方向》3

《网络安全中的：明确战略方向》

来源：Gartner

Gartner官网成为客户

明确战略方向

引入生成式AI将需要全新或调整过的治理框架，并制定明确的网络安全战略路线图，确保涉及AI的问题得到全面考量。

企业的AI治理范围应根据其成熟度进行定制，但每个企业都应专注于以下三条并行的路线图：

1.调整应用安全策略以支持AI部署

在保障安全开发实践的基础上，防范系统运行与开发生命周期中出现的新攻击面。整合隐私增强技术，评估新引进GenAI技术对应用安全的影响。

2.将新AI技术整合到网络安全战略中

将AI当前和未来的潜在影响纳入三年战略路线图

3.将AI要素纳入全面的风险管理框架

随着企业技能需求的不断演变，评估标准、风险登记册及威胁暴露面也将持续调整。

网络安全领导者对GenAI应用的三大风险关注点：

第三方对敏感数据的获取

GenAI应用与数据泄露

错误决策

降低干扰管理风险释放AI价值

AI系统

模型、应用、代理

组织治理

隐私、公平、偏差控制衡量指标、工作流程、政策

来源：Gartner

Gartner官网成为客户

外部托管的大语言模型（LLM）及其他GenAI模型，因其应用流程、数据处理和存储难以被企业直接掌控，显著加剧了潜在风险。

即便是由企业内部托管与管理的本地模型，在缺乏完善安全和风险管理措施的情况下，同样面临挑战。

AI信任、风险与安全管理（AITRiSM）框架可帮助企业管理相关风险。该框架通过控制措施和信任机制，持续提供：

1.内容异常检测

2.数据治理与保护

3.降低应用安全风险

AITRiSM技术组成

内容异常检测数据保护

可解释性和透明度模型管理和ModelOps

实施AI信任、风险与安全

管理（AITRiSM）框架

AI系统用户需要使用该技术，弥合开发方/所有方解决方案之间的差距

开发方/所有方应担的责任

降低干扰管理风险释放AI价值

应用安全

对抗性攻击

AI信任、风险和安全管理技术

《网络安全中的AI：明确战略方向》5

公有云安全使用标准

云和web应用安全技术

自建应用的安全防护能力

机器人检测机制，确保GenAI应用的访问权限仅限人类用户 对内外部API端点的保护能力

优先强化GenAI应用的

安全防护

为Web、SaaS、云基础设施即服务

（IaaS）和平台即服务（PaaS）构建坚实的基础安全控制体系，并进一步加强GenAI应用的保护。

G