《以零信任应对AI部署中的影子访问风险》.docx

目录

序言 8

摘要 9

什么是影子访问？ 9

零信任概述 9

为什么存在影子访问？ 10

零信任原则可以如何减少影子访问 11

GenAI、LLMs等技术概述 11

AI、GenAI、LLMs和影子访问 11

全面的清单、变更管理和运营控制 11

数据访问的可见性、可控性和合规性 12

授权和治理框架 12

多模态数据的细粒度访问控制 12

向量嵌入的访问控制 12

非结构化内容的数据分类 13

身份验证和负责任使用 13

内容适宜性和授权 13

防止个人信息和机密数据泄露 13

结论 14

其他资料 14

?2024云安全联盟大中华区版权所有 7

序言

随着云计算、人工智能（AI）、生成式人工智能（GenAI）以及大型语言模型（LLM）等技术的快速发展，企业在数字化转型过程中面临的安全挑战日益复杂。影子访问，这种对系统和数据的意外或未经授权的访问现象，因现代技术环境的复杂性和访问权限管理不足而加剧，已经成为一个亟需解决的安全问题。与此同时，零信任安全理念作为应对新兴安全挑战的重要策略，逐渐受到各行业的重视。

本报告《以零信任应对AI部署中的影子访问风险》深入探讨了影子访问这一新兴安全问题与零信任安全框架之间的关系，特别是在生成式人工智能和大型语言模型广泛应用的背景下。报告还探讨了生成式人工智能技术引入的额外影子访问风险，并提出了应对这些新兴挑战的多种策略，如细粒度的访问控制、数据分类、身份验证和负责任使用等。这些内容为企业在日益复杂的技术环境中如何有效地管理和控制影子访问提供了宝贵的建议和指导。

在AI时代下，持续关注和深入探讨影子访问问题的重要性。通过不断探索和制定最佳实践，企业可以在复杂的技术环境中建立更健全、更安全的防护体系，确保信息系统的安全性和稳定性。

李雨航YaleLiCSA大中华区主席兼研究院院长

摘要

影子访问是云计算中日益关注的问题，它指的是对系统和数据的意外或未经授权的访问，往往因现代技术环境的复杂性和访问权限管理不足而加剧。

零信任安全以“永不信任，持续验证”的理念为中心，被定位为应对影子访问的对策，提倡健壮的身份验证和严格的访问控制。然而，在影子访问非常普遍的云原生架构中，零信任的实际落地面临着挑战。

人工智能，特别是生成式人工智能（GenAI）、大型语言模型（LLMs）和检索增强生成（RAG）的集成，引入了影子访问风险的额外维度，如未经授权的访问、敏感数据暴露，以及人工智能和其他应用程序中的治理问题。本文档强调，由于人工智能导致影子访问脆弱性增加，所以在一个不断发展的环境中需要加强网络安全，同时传统的零信任方法必须适应生成式人工智能技术带来的细微差别。

本文档着重于讨论影子访问与当今最重要的两种技术的交叉点：零信任和人工智能。

什么是影子访问？

影子访问是对资源（如应用程序、网络和数据）的意外和/或非预期的访问。随着云计算、DevOps、云原生架构和数据共享的发展，这个新问题更加严重。

影子访问越来越成为一个云问题，这是由于各类云服务的聚合使用导致访问控制和用户权利要求增加，加上自动化的基础设施和软件开发，导致错误或意外地允许的帐户使用和资源开放。从小到大的组织经常会艰难地发现，曾经一个安全的起点已经默默地演变成了一个不安全的起点。此问题伴随着克隆帐户和权限（通常在入职或帐户创建过程中），为用户提供了非必要的访问，进而增加了影子访问问题。

零信任概述

零信任是新一代的网络风险战略，是一种基于“永不信任、持续验证”理念的方法，它可以大大减轻影子访问的可能性和影响。

零信任需要实现强身份验证（多因素身份验证（MFA）、密码学等），以及访问控制

（最小特权、基于角色的访问控制（RBAC）、基于属性的访问控制（ABAC）、基于上下文的访问控制（CBAC））。它还需要使用网络分割和微隔离、持续认证和监控（用户和实体行为分析（UEBA）），以及审查、评估和审计。所有这些因素都有助于减少影子访问。

为什么存在影子访问？

零信任的基本原则是，不应该隐式或默认地授予任何访问权限，必须有意和明确地授予权限。因此，根据它的定义，零信任不允许影子访问，即意外或未经授权的访问路径。

那么，为什么会存在影子访问呢？

原因是很少有环境实现了所有的零信任原则。我们生活在一个不完美的世界里，人们会犯错误，应用程序不断变化，有不同和不完整的流程和技术，数据的共享程度前所未有。此外，组织往往鼓励业务在审计与合规审查之前完成实施。影子访问往往普遍存在于现代云原生架构中的基础组件：对各类资源的授权过程。合乎逻辑的期望是，这应该可以简化零信任原则的实施。但是，架构是复杂的、可扩展的，并且分布在实例和控制逻辑中。这些问题，加上IAM流程和应用