生成式人工智能对涉密信息系统安全的促进与挑战.pdfVIP

本期专题SpecialTopic

文献引用格式：王昊,曾思良,薛振伟,等.生成式人工智能对涉密信息系统安全的促进与挑战[J].信

息安全与通信必威体育官网网址,2024(8):30-40.

WANGHao,ZENGSiliang,XUEZhenwei,etal.OpportunitiesandChallengesofGenerative

ArtificialIntelligenceforConfidentialInformationSystemSecurity[J].InformationSecurity

andCommunicationsPrivacy,2024(8):30-40.

生成式人工智能对涉密信息系统安全的

促进与挑战*

王昊，曾思良，薛振伟，朱行林，温博远

（北京应用物理与计算数学研究所，北京100094）

摘要：涉密信息系统是存储、处理国家秘密的计算机信息系统。近年来，随着生成式人工

智能的快速发展，其通过已有知识快速推断生成大量数据的“涌现”能力被应用在网络攻防

的各个领域，促进了网络安全技术的加速迭代。从涉密信息系统安全要点出发，结合生成式

人工智能的现有能力和应用场景，系统地阐述了以大语言模型为代表的生成式人工智能技术

给涉密信息系统安全带来的促进作用和挑战。此外，从实践角度出发，针对涉密信息系统管

理人员，从生成式人工智能的使用和防护2个方面给出了针对性建议。

关键词：涉密信息系统；人工智能；网络安全；大语言模型

中图分类号：TP29文献标志码：A文章编号：1009-8054(2024)08-0030-11

OpportunitiesandChallengesofGenerativeArtificial

IntelligenceforConfidentialInformationSystemSecurity

WANGHao,ZENGSiliang,XUEZhenwei,ZHUXinglin,WENBoyuan

（InstituteofAppliedPhysicsandComputationalMathematics,Beijing100094,China）

Abstract:Confidentialinformationsystemreferstothenetworksystemthatstores,processesand

transmitsstatesecretinformation.Inrecentyears,GAI(GenerativeArtificialIntelligence)hasgained

fame,anditsabilitytoquicklyinferandgeneratelargeamountsofdatathroughexistingknowledgeleads

toitsrapidadoptioninvariousfieldsofnetworkattackanddefense,whichacceleratestheiterationof

cybersecuritytechnologies.Startingfromthekeypointsofsecurityofconfidentialinformationsystems,

*收稿日期：2024-05-07；修回日期：2024-08-05Receiveddate:2024-05-07;Reviseddate:2024-08-05

30信息安全与通信必威体育官网网址August2024

SpecialTopic本