生成式人工智能应用的社会风险与治理路径(1).pdf

第２６卷第５期南京邮电大学学报(社会科学版)Ｖｏｌ２６Ｎｏ５

２０２４年１０月ＪｏｕｒｎａｌｏｆＮａｎｊｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＰｏｓｔｓａｎｄＴｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎｓ(ＳｏｃｉａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ)Ｏｃｔ２０２４

【智能社会研究数据治理】

生成式人工智能应用的社会风险与治理路径

王文玉

(西南大学法学院ꎬ重庆４００７００)

摘要:生成式人工智能的发展和应用会引发社会生产关系、创新方式、组织

结构、运行状态、价值准则的联动变革ꎮ在变革过程中也会带来用户数据隐私被

侵害ꎬ大型科技公司滥用垄断权力ꎬ生成内容存在虚假性、误导性、歧视性ꎬ难以确

定担责主体等具有弥散性和渗透性的社会风险ꎮ为此ꎬ应当对生成式人工智能生

命周期内的设计、应用、监管、救济等流程展开结构化、系统化治理ꎮ首先ꎬ应通过

建构应用清单制度ꎬ完善数据分级、分类管理和流通制度ꎬ建立数据训练师准入制

度ꎬ从源头控制相关风险的产生ꎮ其次ꎬ完善信息内容审查过滤机制ꎬ通过技术嵌

入方式提升监管机构的参与性和介入性ꎬ对生成式人工智能展开全流程监管ꎮ最

后ꎬ应通过建构完善的损害救济制度以及二阶责任分配方案ꎬ最大限度降低相关

损害后果的负面影响ꎮ

关键词:生成式人工智能ꎻ社会风险ꎻ系统治理ꎻ审慎监管

－－

中图分类号:Ｃ９３０５文章编号:１６７３￣５４２０(２０２４)０５￣００２８１２

２０２２年年底ꎬ以ＣｈａｔＧＰＴ为代表的生成式人工智能一经问世ꎬ就在短期内吸引了全世

界的目光ꎬ以大模型、大数据、强算力为基础而建构的生成式人工智能在语言翻译、程序编

辑、产品设计、深度写稿、方案设定等原本需要发挥人类创造力的行业展现了惊人潜力ꎬ被认

[１]

为是和计算机以及互联网诞生一样重要的革命性技术进步ꎮ生成式人工智能通过模拟人

类思考和处理问题的方式ꎬ改变了社会知识生产流程、组织运行模式、发展演变趋势、行业生

态前景以及人机关系定位ꎬ成为专用人工智能向通用人工智能发展的转折点ꎮ然而生成式

人工智能的加速发展也引发了侵犯个人隐私、危害国家数据安全、加剧市场垄断、固化社会

歧视等一系列社会风险ꎮ

当前ꎬ对于生成式人工智能的社会风险ꎬ已经积累了一些研究成果ꎬ通过对现有研究的

总结和分析可以发现ꎬ其存在着以下问题:一方面ꎬ多数研究往往只关注生成式人工智能可

[２][３][４]

能引发的某一具体社会风险ꎬ如危害国家安全、异化数字劳动、模糊责任分配等ꎮ但

不同社会风险之间是具有关联性的ꎬ仅针对某一风险的分析会造成相关对策因缺乏整体性

作者简介:王文玉ꎬ讲师ꎬ博士ꎬ研究方向:数字法治ꎮ

基金项目:国家社会科学基金西部项目“大数据、法治与国家治理现代化研究”(２３ＸＦＸ００１)ꎻ教育部人文社会科学重点

研究基地重大项目“习近平总书记关于科技与法治发展重要论述研究”(２２ＪＪＤ８２０００４)

－

引用格式:王文玉.生成式人工智能应用的社会风险与治理路径[Ｊ].南京邮电大学学报(社会科学版)ꎬ２０２４(５):２８３９.

第５期王文玉:生成式人工智能应用的社会风险与治理路径２９

思维而顾此失彼ꎮ另一方面ꎬ一些学者从宏观上对生成式人工智能可能引发的社会风险展

[５]

开了整