大型语言模型（LLM）威胁分类（中文版）.docx

大型语言模型（LLM）威胁分类

人工智能控制框架工作组的永久和官方位置是

/research/working-groups/ai-controls

?2024CloudSecurityAlliance-保留所有权利您可以下载、存储、在您的计算机上显示、查看、打印和链接到云安全联盟，但须遵守以下规定：（a）草案仅可用于您的个人、信

息、非商业用途;（b）草案不得以任何方式修改或更改;（c）草案不得重新分发;以及（d）商标、版权或其他声明不得删除。您可以引用美国版权法合理使用条款所允许的草案部分，前提是您将这些部分归因于云安全联盟。

?版权所有2024，云安全联盟。Allrightsreserved.2

致谢

主要作者

评论家

西亚·伯克·马尔

菲尔·阿尔

科·卡波通迪

杰·伊兰戈·阿

黄健

利库日·巴克尔·阿卜杜·维

贡献者

奈·班萨尔·维贾伊·博利纳贾森·克林顿

MarinaBregkou

AlanCurran

Sanitra

SandyDunn

S.AngramVidyaBalasu

DavidGee

bramanianAvishay酒

ZackHamilton

吧

VicHargrave

莫妮卡·查克拉博蒂

Jerry

安东·楚瓦金里卡

多·费雷拉亚历山德罗·格雷科·克里斯

HuangRajeshKambleGian

KapoorRicoKomendaVani

托·杰克逊吉安·卡普

MittalJason

尔

MortonAmeya

KushalKumar

Naik

AnkitaKumari

Gabriel

Yutao

NwajiakuMeghana

MaDannyManim

ParwatePrabal

boVishwas

PathakRuchir

ManralJesus

PatwaBrian

LunaMichael

PendletonKunal

RozaLars

Pradhan

RuddigheitDor

博士马特·罗尔

Sarig

丹·奥马尔·桑托

阿米特·夏尔

斯

马·拉克什·夏尔

JoshuaScarpinoNatalia

马·库尔特·塞弗

SemenovaBhuvaneswari

里德·凯莱布·西

SelvaduraiJamillah

玛·埃里克·蒂尔

Shakoor

林·詹妮弗·托伦

TalShapira

罗布·范德维尔·阿希

Akram警长

什·瓦希什塔·苏尼

SrinivasTatipamula

尔·余

Maria（MJ）Schwenger

徐伟

MahmoudZamaniRaphaelZimme

?版权所有2024，云安全联盟。Allrightsreserved.3

目录

Acknowledgments 3

TableofContents 4

ObjectivesandScope 5

RelationshipwiththeCSAAIControlFramework 6

1.LargeLanguageModelAssets 7

1.1.DataAssets 7

1.2.LLM-OpsCloudEnvironment 9

1.3.Model 10

1.4.OrchestratedServices 11

1.5.AIApplications 13

2.LLM-ServiceLifecycle 15

2.1Preparation 16

2.2Development 17

2.3Evaluation/Validation 18

2.4Deployment 20

2.5Delivery 22

2.6ServiceRetirement 24

3.LLM-ServiceImpactCategories 26

4.LLMServiceThreatCategories 26

4.1.ModelManipulation 26

4.2.DataPoisoning 27

4.3.SensitiveDataDisclosure 27

4.4.ModelTheft 27

4.5.ModelFailure/Ma