用主动免疫可信计算筑牢人工智能安全防线.docx

用主动免疫可信计算筑牢人工智能安全防线

沈昌祥

中央网信办专家咨询委员会顾问

国家集成电路产业发展咨询委员会委员

国家三网融合专家组成员

党的二十大报告提出加快建设网络强国战略任务

“没有网络安全就没有国家安全安全是发展的前提”

国家网络空间安全战略网络安全等级保护制度2.0标

国家网络

空间安全

战略

网络安全等级保护制度2.0标准及关键信息基础设施安全保护条例要求应当优先采购全面使用安全可信的产品和服务来构建关键信息基础设施安全保障体系。

第十六条国务院和省、自治区、直辖市人民政府应当统筹规划,加大投入,扶持重点网络安全技术产业和项目,支持网络安全技术的研究开发和应用,推广安全可信的网络产品和服务,保护网络技术知识产权,支持企业、研究机构和高等学校等参与国家网络安全技术创新项目。

坚持创新驱动发展,积极创造有利于技术创新的政策环境,统筹资源和力量,以企业为主体,产学研用相结合,协同攻关、以点带面、整体推进,尽快在核心技术上取得突破。重视软件安全,加快安全可信产品推广应用。

PART

PART

构筑安全可信人工智能新生态体系

1

人工智能在赋能人类社会加快发展的同时，正逐渐衍生出可危及国家安全和人类安全的今年4月26日，美国国土安全部宣布成立一个人工智能安全与保障委员会，由国土安全部部长亚历杭德罗·马约?斯担任主席。

人工智能在赋能人类社会加快发展的同时，

正逐渐衍生出可危及国家安全和人类安全的

重大风险:多位著名科学家警告，人工智能

发展将毁灭人类社会。去年，马斯克在内的一众全球范围内AI领域重要人士表示“应将ChatGPT自身无安全可信和伦理道德，一名比利时男子在与ChatGPT交流后自杀身亡。曾经马斯克为首的众位科学家向美国政府发出请愿信，要求停止ChatGPT训练，与此同时

发展将毁灭人类社会。去年，马斯克在内的

一众全球范围内AI领域重要人士表示“应将

缓解人工智能导致的灭绝风险，与其它社会

规模风险(如大流行病和核战争)等同重视，作为全球优先事项”。垂类大模型是大模型私有化指的是将预训练的大型人工智能模型(如GPT、BERT等)部署到企业自己的硬件环境或私有云平台上。私有化部署能够给企业带来数据安全性和自主控制能力

规模风险(如大流行病和核战争)等同重视，作为全球优先事项”。

人工智能的潜在风险

智能硬件被恶意用于恐怖袭击智能化武器与军备竞赛引发国际担忧

智能硬件被恶意用于恐怖袭击

智能化武器与军备竞赛引发国际担忧

模型失误会给人类带来灾难机器人智能行为体一旦失控将危及人类安全智能工具被用于干预舆论和引导政治走向

模型失误会给人类带来灾难

机器人智能行为体一旦失控将危及人类安全

智能工具被用于干预舆论和引导政治走向

网络空间面临严重威胁

2017年5月12日爆封的“WannaCry”的勒索病毒，通过将系统务数据信息加密，使数据变得不可用，借机勒索钱财。病毒席卷近150个国家和地区，教育、

1

交通、医疗、能源网络成为本轮攻击的重灾区。

22018年8月3日，台积电遭到勒索病毒入侵，几个小时之内，台积电在务国台湾地区的北、务、南三个重要生产基地全部停摆，造成约十几亿美元的营业损失。

2021年5月7日，美国最大的成品油管道运营商ColonialPipeline受到勒索软件攻击，被迫关闭其美国东部沿海各州供油网络，美国政府宣布美国17个州和华

3

盛顿特区进入紧急状态。

认清网络安全实质

网络安全实质:风险度=脆弱度威胁度

网计算科学问题-----------------图灵计算原理(少攻防理念)络脆弱度↓空间其脆

网计算科学问题-----------------图灵计算原理(少攻防理念)

络

脆弱度↓空

间

其脆

弱计算模式问题-----------------重大工程应用(无安全服务)

资产财富国家主权基础设施网络:

资产财富

国家主权

基础设施

网络战APT病毒谋财侵占

网络战

APT

病毒

谋财

侵占

暴恐