基于生成式人工智能的网络认知域安全技术.pdf

SpecialTopic本期专题

文献引用格式：刘超超,陈雪,肖冰.基于生成式人工智能的网络认知域安全技术[J].信息安全与通信

必威体育官网网址,2024(8):41-48.

LIUChaochao,CHENXue,XIAOBing.CyberspaceCognitiveDomainSecurityTechnology

BasedonGenerativeArtificialIntelligence[J].InformationSecurityandCommunications

Privacy,2024(8):41-48.

基于生成式人工智能的网络认知域安全技术*

刘超超1，陈雪2，肖冰3

（1.中国网络空间研究院，北京100048；

2.天津大学法学院，天津300054；

3.中国科学院科技战略咨询研究院，北京100190）

摘要：近年来，人工智能、大数据分析等前沿技术的应用与发展，尤其是生成式人工智能

大模型的快速发展，加快了人—网络平台—物理空间的三元融合发展的趋势，促使物理空间、

网络空间和认知空间的交织融合。网络空间认知领域存在恶意信息多、个体信息易泄露、信

息传播易操纵等诸多安全风险，极易传导至物理空间引发社会问题。基于“人工智能+”的思想，

尝试分析基于生成式人工智能的安全防御技术，为促进未来网络安全产业发展提供新思路。

关键词：生成式人工智能；网络空间；认知领域；安全防御技术；网络安全产业

中图分类号：TP391.1文献标志码：A文章编号：1009-8054(2024)08-0041-08

CyberspaceCognitiveDomainSecurityTechnologyBasedon

GenerativeArtificialIntelligence

123

LIUChaochao,CHENXue,XIAOBing

（1.ChineseAcademyofCyberspaceStudies,Beijing100048,China;

2.LawSchool,TianjinUniversity,Tianjin300054,China;

3.InstitutesofScienceandDevelopment,ChineseAcademyofSciences,Beijing100190,China）

Abstract:Inrecentyears,theapplicationanddevelopmentofcutting-edgetechnologiessuchasartificial

intelligenceandbigdataanalysis,especiallytherapidbreakthroughofgenerativeartificialintelligencelarge

models,acceleratethetrendoftripleintegrationanddevelopmentofhuman-networkplatform-physical

*收稿日期：2024-03-27；修回日期：2024-07-10Re