20250320-AiDD-计算机行业2024AI+研发数字峰会：大模型时代软件供应链的效率与安全管理实践.pdfVIP

大模型时代软件供应链的效率

与安全管理实践

李威JFrog

1.MLOps中软件供应链的管理痛点

目录2.MLOps中软件供应链的引入与管理最佳实践

CONTENTS3.大模型版本管理与治理最佳实践

4.大模型安全风险治理

5.未来展望

PART01

软件供应链管理痛点

XVFUnPrPnRrRnMpMoQtMrP6M9R7NmOoOpNmRfQoOnOfQsQmNbRmNnNNZqRoQMYpOqO

AI的风险

●幻觉●越狱

●偏见●间接提示注入

●恶意软件●恶意指令

●数据投毒●私人信息

●版权●伪造来源

●恶意网址

数据科学家成为攻击目标

JFrog安全研究团队开发了扫描环境，每天多次严

格检查上传到Huggingface的每个新模型

/blog/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor/

AI/ML与传统软件研发的异同

开发应用程序

CodeBuildDeploy

SoftwareEngineerDevOpsEngineerOperationsEngineer

编写和调试应用程序管理自动化以构建和部署部署、监控和维护

开发MLModels

DataModelDeploy

DataScientistResearchEngineerDevOps

定义、标注和组织训练数据开发模型算法，训练并分析模实施、部署、监控和维护机器学

型习模型

如今AI/ML模型版本管理的问题

•使用S3存储桶

这会让数据科学家自行命名每个上传，这通常会导致命名不一致、

File_Name_Final_Final_Final难题，甚至丢失文件。

重复存储，占用大量空间

•使用Git

数据科学家和工程师只需在Main分支上堆叠Commit，利益相关者可以看到以前的提交，

但没有简单的方法可以知道他们每次提交会得到什么，因为名称只是一组随机字符。

“基于FTP/SVN的手工作坊又回来了”

PART02

软件供应链的引入与管理