【CSA GCR】大语言模型威胁分类.docx

大语言模型威胁分类

CSAGCRclEQ\*jc3\*hps30\o\al(\s\up8(o),s)rity

GREATERCHINAREGIONalliance

致谢

报告中文版支持单位

移动云

中国移动云能力中心

中国移动云能力中心，注册名称为中移(苏州)软件技术有限公司，是中国移动通信集团于2014年3月在苏州成立的全资子公司。云能力中心主要承担中国移动云的技术研发、资源建设、业务运营、服务支撑等相关业务，自研了弹性计算、数据库、云存储、云网络、云安全等200余款覆盖云计算全产业链的产品，产品丰富度行业第二，为全国的工业、政务、医疗、教育、交通、金融等行业提供云计算、大数据及各类信息化解决方案。

参与本次报告的专家：

王浩硕，云能力中心安全产品部负责人

赵玲玲，云能力中心安全产品部研发管理专员付怀勇，云能力中心安全产品部产品经理

李雨含，云能力中心安全产品部产品经理

薛四青，云能力中心安全产品部软件开发工程师吴云飞，云能力中心安全产品部综合管理专员

中国移动云能力中心作为云安全联盟大中华区(CSAGCR)的理事单位，为该报告的翻译工作提供了必要的支持。这种支持并不涉及对CSA在研究内容开发和编辑方面的决策权和控制权，确保了CSA在这些核心领域的独立性和自主性。

4

◎2024云安全联盟大中华区版权所有

报告英文版编写专家

主要作者

审稿人

SiahBurke

PhilAlger

MarcoCapotondi

llangoAllikuzhi

DanieleCatteddu

BakrAbdouh

KenHuang

VinayBansalVijayBolina

贡献者

BrianBrinkley

AnupamChatterjee

MarinaBregkou

JasonClinton

SanitraS.Angram

AlanCurran

VidyaBalasubramanian

SandyDunn

AvishayBar

DavidGee

MonicaChakraborty

ZackHamilton

RicardoFerreir

VicHargrave

AntonChuvakin

JerryHuang

AlessandroGreco

RajeshKamble

KrystalJackson

GianKapoor

GianKapoor

RicoKomenda

KushalKumar

VaniMittal

AnkitaKumari

JasonMorton

YutaoMa

AmeyaNaik

DannyManimbo

GabrielNwajiaku

VishwasManral

MeghanaParwate

JesusLuna

PrabalPathak

MichaelRoza

LarsRuddigheitDorSarig

AmitSharma

RakeshSharma

KurtSeifried

CalebSima

EricTierling

JenniferToren

RobvanderVeerAshishVashishthaSounilYu

RuchirPatwa

BrianPendletonKunalPradhanDr.MattRoldanOmarSantos

Dr.JoshuaScarpinoNataliaSemenova

BhuvaneswariSelvaduraiJamillahShakoor

TalShapira

AkramSheriff

SrinivasTatipamula

DennisXu

Maria(MJ)SchwengerMahmoudZamani

RaphaelZimme

5

◎2024云安全联盟大中华区版权所有

9

序言

在人工智能技术迅速发展的背景下，大语言模型(LLM)已成为推动技术创新和业务转型的核心力量。其在自然语言理解、生成与处理方面的强大能力，正深刻改变着人与信息、技术的互动方式。然而，随着LLM应用的广泛推广，伴随而来的是一系列复杂的风险和挑战，尤其是在安全性、隐私保护和合规性方面，全球范围内的应对压力愈加凸显。

为应对这些挑战，CSA大中华区发布《大语言模型威胁分类》报告，旨在为行业提供一个全面的风险管理框架，帮助各行业识别、评估和管理LLM应用过程中可能遇到的风险。本报告详尽地分析了LLM的关键资产、服务生命周期、影响类别和威胁类别，为政策制定者、技术专家和行业决策者提供了一个清晰的理解和应对LLM相关风险的框架。报告的