人工智能嵌入政府数据治理的算法歧视风险及其防控策略研究.pdf

农业图书情报学报

DOI:10.13998/ki.issn1002-1248.24-0353

人工智能嵌入政府数据治理的算法歧视风险

及其防控策略研究

彭丽徽1，张琼1，李天一2

（1.湘潭大学公共管理学院，湘潭411105；2.沈阳铁路公安处网络安全保卫支队，沈阳110167)

摘要：[目的／意义]本研究旨在探讨人工智能在政府数据治理中的应用及其带来的算法歧视问题，并提出相应的解决策

略，以保障公民的合法权益和政府的公信力。【方法／过程]通过文献归纳法分析人工智能算法在政府数据治理中的具体应用，

识别出算法歧视的成因，包括数据片面性、设计者的观念以及社会偏见等，进一步探讨算法歧视的潜在风险并给出相应的防

控措施。结果／结论]研究表明，人工智能嵌入政府数据治理在提升效率的同时也带来了算法歧视风险。据此，本研究提出

明确算法公平、制定行业规范、完善问责机制、优化数据环境等防控措施，以确保人工智能在政府数据治理中有效造福人民。

关键词：人工智能；政府数据治理；算法歧视；风险防控；政府数据；信息茧房

中图分类号：G203文献标识码：A文章编号：1002-1248（2024）05-0023-09

引用本文：彭丽徽，张琼，李天一.人工智能嵌入政府数据治理的算法歧视风险及其防控策略研究[J].农业图书情报学报，

2024,36(5):23-31.

0引言公平性和公众平等待遇的担忧。由于算法自身的特性，

如“算法黑箱”、数据失真、社会偏见等都可能引发算

在科技日新月异的时代背景下，人工智能算法在法歧视，这种歧视具有隐蔽性、精准性及责任主体复

政府数据治理领域正发挥着不可或缺的作用，算法、杂性。放任这一风险将会加剧“信息房”与马太效

算力、数据共同构筑人工智能的底层逻辑，人工智能应，诱发权力异化，损害公民合法权益，最终导致严

算法以其卓越的信息处理能力、高效的决策效率以及重的政府信任危机。在政府数据治理中，人工智能带

精准的预测能力，重塑了公共决策的模式与效能。而来的算法歧视问题已经引起了社会各方的担忧。为此，

人工智能算法的滥用可能会夸大预测能力，引人无意2023年7月10日，国家互联网信息办公室联合国家发

的偏见，强化历史歧视，并支持特定的政治倾向。同展改革委、教育部等七部门发布《生成式人工智能服

时，人工智能算法的这些潜在风险也会引发公共决策务管理暂行办法》，以此来维护国家安全和社会公共

收稿日期：2024-04-01

基金项目：湖南省图书馆学会中青年人才库重点课题“数智时代老年人健康信息规避行为及干预机制研究”（XHZD1023)

作者简介：彭丽徽（1990-），女，博士，副教授，湘潭大学公共管理学院，研究方向为知识管理与信息服务。张琼（1999－），女，硕士研

究生，湘潭大学公共管理学院，研究方向为数字包容与信息服务。李天一（1989-），男，本科，沈阳铁路公安处网络安全保卫支

队，研究方向为舆情管理与数据治理

2024年第36卷第5期23

农业图书情报学报

DOI:10.13998/ki.issn1002-1248.24-0353

利益。作为公共服务的重要提供者，政府在提升工具到更高分数”[。此结果与后续跟踪研究中，实际再犯

理性、优化政务效率的同时，必须充分兼顾价值理性罪率的组间差异存在统计学上的显著不同。这一结论

与社会公平，确保人工智能应用中的各方责任明确、表明使用看似客观中立的人工智能算法系统，未必会