网络社会安全视角下人工智能活动特征、风险及公共政策选择(1).pdfVIP

州社会主义学院学报2024年第1期（总第84期）

JOURNALOFGUANGZHOUINSTITUTEOFSOCIALISMNo.12024(SerialNo.84)

网络社会安全视角下人工智能活动特征、

风险及公共政策选择

茹素岩

摘要：人工智能在网络空间中具有自主学习性与自递进性、协同性与隐蔽性及资助者利益导向的属性，其在网络空

间中的政治行动主要包括社交机器人操纵网络舆论、“深度伪造”混淆视听、开源与事件识别预测智能系统煽动社会冲

突等。这些活动特征导致网络风险外溢至社会空间可能性增大，易出现恶意情绪传播及集体理性丧失、无线端技术攻击

与极端组织活动能力增强、网络参数主导与网络空间治理失灵等问题，不仅增加虚拟网络治理难度，还对国家政治安

全、社会安全及意识形态安全造成威胁。因此，在公共政策选择上需完善针对人工智能的法律和政策供给、支持技术研

发鼓励多元主体共商网络信息规范，提升民众认知水平与安全感。

关键词：网络空间政治安全；人工智能；机器学习；社交机器人；“深度伪造”

中图分类号：D035.29文献标识码：A文章编号：1672-3562（2024）01-0110-07

网络空间是社会空间的特殊延伸，“网络空全，随时有被侵蚀的危险；网络空间政治安全，

间安全是网络空间所涉及的物理层、认知层、信也随时有被凯舰的风险”[2]，本文基于对俄乌冲

息层不受外界威胁的一种状态”[]。在现代信息突的思考，以社交机器人、“深度伪造”、开源智

技术条件下，国家政治安全所面临的安全风险挑能三项极具活力和创造力的人工智能技术为例，

战由网络空间蔓延至现实社会的情况越来越普梳理并总结出其在网络空间中的活动特征及其潜

遍，二者的联动效应日趋明显。其中，作为现代在社会治理风险表征与影响，在此基础上给出具

网络尖端科技象征的人工智能融人网络空间政治有针对性的公共政策建议，为预防和应对人工智

行动，成为推动网络空间安全形势复杂化的核心能所带来的网络社会安全威胁提供一定借鉴与参

因素。网络空间政治行动指在网络空间这一政治考。

空间维度和场域中，各种政治行为体或非政治行一、人工智能在网络传播空间中的活动特征

为体之间借助互联网、电信、信息、通信等技术人工智能的发展目标旨在充分赋予机器以人

手段进行的政治互动和对抗。“网络空间国家安类思维的反应能力，即思考、推理、作出决定、

收稿时间：2023-04-18

作者简介：茹素岩，女，南开大学周恩来政府管理学院博士研究生。天津，300350。

110该州社院學·2024年第1期

作出选择和根据要求完成工作获得经验的能力。生成式网络得到的数据也就愈发逼真、先进、智

ChatCPT等新一代人工智能技术的出现，更是表能。

明人类通过不断地堆叠人工智能神经网络的参数(二)协同性与隐蔽性

规模和通过不断模拟人类思维模式调整可形成高组合使用意味着社交机器人、“深度伪造”

性能智力表现[3]。在网络传播空间中，人工智能及社交媒体开源情报分析等人工智能应用会同时

的活动特征体现为自主学习性及自递进性、多线出现在一个社交媒体“认知对抗场域”中。组合

程协同隐蔽行动和资助者利益导向三个方面。的引人、开发和应用会产生协同效应，即多种技

(一)自主学习性和自递进性术结果互为补充、相互支撑，使其能够在质量和

适应性和自递进性是人工智能系统与自动控数量上优于单独使用某一技术所能产生的效果。

制系统之间的主要区别。以“深度伪造”为例，此外，协同效应还突出地表现为数据碰撞产生的

英伟达（NVIDIA）2019年分享的生成对抗网络连锁反应，通过将不同分析结果结合与融合，展

的结果显示，基于现实生活中的人脸图像阵列，开多维综合分析，能够不断增生出新成果。以社

神经网络经过训练可自我生成人类的图像，并作交机器人为例，与人类用户的有限工作不同，机

出精细化处理。警如可生成百余张不同发型、皮器人可以保持全天候活跃并立即响应状态，若被

肤纹理、皱纹和疤痕的人像，在此基础上增加年纳人开源与事