- 1、本文档共29页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
AI时代大模型安全风险与应对思路
火山引擎大模型安全产品负责人郭建新
01大模型的安全挑战02业务分析
03安全需求04安全方案
1.1Gartner2024年十大科技趋势
全民化的生成式AIAI信任、风险和安全管理:TRiSM
AI信任、风险和安全管理-隐私数据保护
AI增强开发-内容异常检测
智能应用-对抗性防御
增强型互联员工队伍-AI应用安全
持续威胁暴露管理-可解释性和透明性
机器客户-模型运维(ModelOps)
可持续技术
平台工程
行业云平台
1.2AI安全与伦理的政策和规范
颁发机构政策和规范名称
颁发机构政策和规范名称
中央办公厅
网信办《网络信息内容生态治理规定》《关于加强科技伦理冶理的意见》
《互联网信息服务算法推荐管理规定》国家新一代人工智
《新一代人工智能治理原则一发展负责任的人工智能》
能治理专业委员会
《关于加强互联网信息服务算法综合治理
《新代人工智能伦理规范》
的指导意见》
全国信息安全标准
《人工智能伦理安全风险防范指引》
《互联网信息服务深度合成管理规定》化技术委员会
《生成式人工智能服务管理暂行办法》信息化标准委员会
《人工智能伦理治理标准化指南》
国家标准委员会《国家新-代人工智能标准体系建设指南》
科技部
《科技伦理审查办法(试行)(征求意见稿)》
全国信息安全标准《生成式人工智能服务安全基本要求》
人民银行
化技术委员会《生成式人工智能服务内容标识要求》《金融领域科技伦理指引》
1.3大模型的挑战
大模型迅猛发展,对个人隐私保护,社会伦理和系统安全产生巨大挑战!
构建大模型安全系统势在必行
2.1大模型和核心业务流程
模型训练模型发布模型精调模型应用
模型供应方
模型供应方模型使用者模型使用者
文档评论(0)