生成式人工智能与国家安全治理：发展趋势、潜在风险与应对思路.pdfVIP

２０２４年９月四川行政学院学报Ｓｅｐｔ．，２０２４

第５期总第１４９期ＪＯＵＲＮＡＬＯＦＳＩＣＨＵＡＮＡＤＭＩＮＩＳＴＲＡＴＩＯＮＩＮＳＴＩＴＵＴＥＮｏ．５（ＴｏｔａｌＮｏ．１４９）

【中图分类号】Ｄ０３５３；ＴＰ１８【文献标识码】Ａ【文章编号】１００８－６３２３［２０２４］０５－００４２－００９ＤＯＩ：１０．２０１３６／ｊ．ｃｎｋｉ．ｓｘｚｂ．２０２４．０５．００５

生成式人工智能与国家安全治理：

发展趋势、潜在风险与应对思路

李泽西黄进

摘要：生成式人工智能技术的快速迭代与现实应用喻示着人工智能技术在未来社会治理

领域的地位愈发重要，治理工具的范畴及国家安全治理的架构出现了新的变化。在国家安全治

理视角下，生成式人工智能技术会推动国家安全治理迈向治理过程数据驱动化、治理服务个性智

能化、治理安全预测动态化。然而，生成式人工智能在国家安全治理领域的运用会带来三大安全

风险，包括网络稳固性的威胁、意识形态安全的挑战及对政治秩序的潜在干扰，具体表现为网络

攻击的转变、安全漏洞的扩散、信息操控、文化入侵、行业垄断和秩序干预。为应对上述风险，文

章指出要构建网络安全规范体系以强化基础防御、制定意识形态安全策略以引导关键领域、加强

政治秩序安全防线以保障社会稳定。采取综合性策略后，可以有效缓解当前生成式人工智能参

与治理的安全挑战，预防潜在风险，强化国家安全治理体系的适应性和韧性。

关键词：人工智能；生成式人工智能；国家安全治理；ＣｈａｔＧＰＴ

引言

２０２２年１２月生成式人工智能ＣｈａｔＧＰＴ的正式发布引起国际广泛关注。《２０２３年十大新兴

技术报告》指出生成式人工智能是一种通过学习大规模数据集生成新的原创内容的新型人工

［１］

智能，将在研究、教育、商业等多个领域引发颠覆性变化。百度在２０２３年３月推出中国生成式

人工智能“文心一言”，致力于推动中国生成式人工智能的技术成长。自生成式人工智能技术

产品相继推出，用户数量急速增长，应用领域持续拓宽，表现出了惊人的技术能力与市场潜力。

基金项目：四川省哲学社会科学基金重点项目“四川社会治理转型研究”（项目编号：ＳＣＪＪ２３ＮＤ４９）。

作者简介：李泽西，四川省社会科学院社会学研究所硕士研究生。

黄进，四川省社会科学院社会发展与公共政策研究中心研究员。

·４２·

生成式人工智能与国家安全治理：发展趋势、潜在风险与应对思路

我国“十四五规划”指出未来建设应加强宏观经济治理数据库等建设，提升大数据等现代

［２］

技术手段辅助治理能力。在国家安全治理领域，生成式人工智能技术对提高政府服务效率、

优化政府决策等意义非凡。然而，生成式人工智能是多元智能技术经过集成式创新之后而形

［３］

成的一种颠覆性技术，具有超强类人性、高风险性和不确定性等特征。此前，已有相关研究表

示生成式人工智能与其核心组成部分“大语言模型”会给网络安全、社会安全、知识安全、道德

［４］［５］

伦理安全、政治安全等国家安全领域带来若干风险与挑战。具体而言，人工智能生成内容

存在着披露未许可、虚假不真实、偏见放大、偏差隐藏、被恶意使用、不道德取利、理性致瘾、小

［６］

概率惊恐八类风险。以ＣｈａｔＧＰＴ为代表的生成式人工智能可以连接不同技术、提高组织效

［７］

能、实现智能交互，但具有内生风险，易产生互动错位，导致价值分裂等问题。生成式人工智

能语料库的大规模流动、聚合和分析所造成的数据安全风险会冲击数据主权、网络安全、意识