新一代人工智能的安全风险与治理研究.pdfVIP

Perspectives学术争鸣

文献引用格式：沈传年,王心丹,陈曲.新一代人工智能的安全风险与治理研究[J].信息安全与通信保

密,2024(7):43-54.

SHENChuannian,WANGXindan,CHENQu.ResearchonSecurityRisksandGovernance

ofNewGenerationArtificialIntelligence[J].InformationSecurityandCommunications

Privacy,2024(7):43-54.

新一代人工智能的安全风险与治理研究*

沈传年，王心丹，陈曲

（国家计算机网络应急技术处理协调中心上海分中心，上海201315）

摘要：以ChatGPT为代表的新一代人工智能技术正掀起人工智能领域的新一轮革命热潮，

其在为科技发展和产业变革提供强大驱动力的同时，也将给人类社会的法律法规、道德伦理、

隐私保护、社会治理等方面带来一系列的风险挑战。首先介绍了新一代人工智能面临的法律

风险、数据安全风险、算法模型攻击风险、意识形态风险4个方面的安全风险，其次调研并

比较了我国、美国及欧盟关于新一代人工智能的治理现状，最后从建立健全政策法规体系、

加强道德伦理规范建设、构建风险评估与应急处置机制、加强国际合作4个方面为我国新一

代人工智能的治理提出对策建议。

关键词：人工智能；安全风险；道德伦理；算法；治理

中图分类号：TP309；TP18文献标志码：A文章编号：1009-8054(2024)07-0043-12

ResearchonSecurityRisksandGovernanceofNew

GenerationArtificialIntelligence

SHENChuannian,WANGXindan,CHENQu

（ShanghaiBranchofNationalComputerNetworkEmergencyResponseTechnicalTeam/CoordinationCenterofChina,

Shanghai201315,China）

Abstract:ThenewgenerationofAI(ArtificialIntelligence)technologyrepresentedbyChatGPTis

settingoffanewroundofrevolutioninthisfield,whichwillbringaseriesofrisksandchallengestothe

humansocietyintermsoflawsandregulations,moralityandethics,privacyprotection,socialgovernance,

etc.,whileprovidingastrongdrivingforcefortechnologicaldevelopmentandindustrialchange.This

*收稿日期：2024-04-11；修回日期：2024-07-10Receiveddate:2024-04-11;Reviseddate:2024-07-10

July2024信息安全与通信必威体育官网网址43

学术争鸣Perspectives

paperfir