百度大模型安全解决方案PPT.pdf

大模型安全解决方案分享

01百度对大模型安全的理解和观点

从多角度剖析AICG业务所面临的安全挑战与潜在威胁

大模型应用面临的安全挑战

在构建大模型服务时，百度将大模型全生命周期划分为三个关键阶段：训练阶段、部署阶段、以及业务

运营阶段，在各业务阶段面临的安全风险、以及挑战各有不同：

大模型训练阶段.大模型部署阶段.大模型业务运营阶段.

企业自有数据如何在保障数据大模型部署时如何防止模大模型服务在运营阶段，如何保障接

安全与隐私的前提下，实现大型窃取与泄漏？口安全、投毒反馈等黑产攻击？如保

模型的精调、推理、共建？障提问内容、输出内容安全？

010203

大模型训练、部署阶段的安全挑战

大模型训练大模型部署

在训练阶段，确保原始数据的隐私和机密性是至攻击者可能通过攻击云服务器来窃取模型及其

关重要！数据，或者反向工程模型参数以训练新模型。

公有云场景私有化共建

大模型在部署过程中可能受到对抗性攻击的威

在云上大模型训练、精调、在大模型的私有化共建时，胁，如对抗性样本攻击等

推理时，如何解决敏感数可能涉及多个数据所有者

据上云后的数据隐私保护？之间的数据共享与计算？

部署的模型在传输和存储过程中可能被篡改

如何建立访问控制机制，确保可信用户或系统

可以访问模型和相关资源、以及AK/SK防滥用

大模型业务运营阶段的安全挑战

在大模型运营阶段，围绕企业的前置业务环节容易出现各类安全风险

账号风险业务风险

企业自有账号体系出现批量注册薅羊毛/权益侵占/机器作弊/浪费审

账号/盗号/撞库等账号攻击风险。核资源等围绕前置业务行为的风险

Chatgpt在4月初，大规模封禁各类违规注册账号百度文心一言/千帆申请存在薅羊毛等前置业务风险

大模型业务运营阶段的安全挑战

针对“提问行为”存在的安全挑战

在大模型提问时，黑产等不发分子围绕提问接口发起AIGC盗爬/垃圾提问/接口攻击/频控突破/资源侵占等攻击行为，针对大模型

输出结果，黑灰产可以发起投毒反馈、恶意反馈等攻击行为

AIGC盗爬垃圾提问/资源消耗投毒/恶意反馈接口攻击

大模型业务运营阶段的安全挑战

针对“提问内容”存在的安全挑战

在与大模型交互提问时，用户输入的prompt也能存在各类违法违规内容风险，主要涵盖如下几类：

涉黄涉赌涉毒涉政

涉恐