新一代人工智能的风险防范和高质量发展.docx

?

?

新一代人工智能的风险防范和高质量发展

?

?

孙大伟张淑芬

摘要：当前，以算法、数据和计算能力为核心驱动力的新一代人工智能发展迅速，但是算法面临着算法歧视、“过滤气泡”、算法黑箱等问题，数据存在数据滥用、数据泄露、数据污染等多重风险。因此，应当加强人工智能发展的潜在风险研判和防范，明确人工智能的发展应遵循人类利益原则、人类自主原则、责任原则，完善相关法律规则，强化监管，推动新一代人工智能高质量发展。

关键词：新一代人工智能;算法风险;数据风险

中图分类号：TP18文献标识码：A

未来学家阿尔文·托夫勒认为，现代人是第三次浪潮的参与者。较之1万年前掀起的第一次农业革命浪潮以及300年前惊天动地的第二次工业革命浪潮，第三次浪潮带给人们的是“有史以来最强烈的社会变动和创造性的重组”的“超级工业社会”（阿尔文·托夫勒，2018）[1]。这个“超级工业社会”的特点之一就是高新科技发展日新月异。其中，新一代人工智能以及与之相关的物联网、区块链、云计算、大数据便被认为是当前最具有标志性的新兴科技。

1新一代人工智能被广泛应用

近年来，我国已经在新一代人工智能的五大核心技术：图像识别、语音识别、自然语言处理、知识图谱、机器人技术等领域取得重大进展，并将其广泛应用到了社会生产生活当中。

当前，在针对新型冠状病毒感染肺炎疫情防控中，新一代人工智能技术就发挥了重要作用。依托人工智能技术的仪器能快速精准地测量体温、识别高温人群，人工智能机器人可以承担消毒、清洁、药物配送等工作，极大地减少了人与人之间的接触概率，降低了感染风险。利用人工智能技术还可以进行病毒样本比对以及自动化诊断和分析等，提升精准筛查比例。

需要强调的是，技术是中性的，技术的发展会带来正反两方面的效应。新一代人工智能是以计算为中心，其核心驱动力是算法、数据和计算能力。推陈出新的算法、海量的数据、惊人的算力以及巨大的应用需求，深刻影响着人类的生产生活的同时，在其发展过程中也存在着诸多风险和挑战。

2新一代人工智能的算法风险

众所周知，算法是人工智能的根基。随着算法模型的推陈出新，算法的自主决策性逐渐提高，人工智能技术得到广泛应用，极大解放了人类的劳动力，提高了工作效率。但是，算法同时也存在算法歧视、“过滤气泡”“信息茧房”和“回音室效应”、算法黑箱等问题。

2.1算法歧视

算法带有一定的主观性。算法歧视是指在人工智能系统研发过程中，研发人员将其主观的价值判断植入人工智能系统，导致系统在编码、收集、选择或使用数据时，产生了带有偏见或歧视性的结果。

算法歧视主要分为三类：人为造成的歧视、数据驱动的歧视和机器自我学习的歧视（郭锐，2019）[2]。人为造成的歧视是指研发人员在研发人工智能时植入带有偏见或歧视的价值观。数据驱动的歧视是指采集的数据本身包含偏见与歧视。机器自我学习造成的歧视是指人工智能机器在学习过程中自我学习到数据的不同特征，并将某些偏见或歧视引入到决策过程中。以上这些偏见与歧视可能会导致人工智能系统在决策过程中对某些群体或个人的直接或间接的偏见与歧视。

在人工智能应用中，有哪些信誉好的足球投注网站引擎、电子商务、社交媒体等平台均可能存在算法歧视问题。比如电子商务平台为向客户进行精准营销，往往会根据已有数据和算法，进一步挖掘客户的消费数据，产生价格歧视和“大数据杀熟”等问题。

2.2“过滤气泡”

在信息爆炸的当下，人们需要通过“算法推荐”为自己提供个性化服务。但是有哪些信誉好的足球投注网站引擎平台、电子商务平台、社交媒体平台等网络平台使用“推薦算法”，容易制造“过滤气泡”问题，引发“信息茧房”和“回音室效应”。

“过滤气泡”指的是计算机记录用户进行网上有哪些信誉好的足球投注网站、浏览留下的痕迹，根据这些痕迹推断出用户的信息偏好，通过算法进行计算并向用户进一步推送相关信息，以实现用户信息的个性化定制，保证用户黏性（EliPariser，2011）。[3]“信息茧房”是指用户更愿意根据自己的需求，选择接触自己感兴趣并乐于接受的固定领域的信息，但这就像“茧房”一样封闭，充满了与自己意见一致的观点，虽然温暖而舒适，但是也会形成毫无根据的极端主义、偏激错误的观念甚至过度自卑的心态（凯斯·桑斯坦，2008）[4]6。“回音室效应”则是指用户在互联网上就某一话题或观点进行互动，一些相近或相同的信息会不断重复、强化、夸张和扭曲，从而让处于封闭环境中的大多数人认为这些不断重复的信息是事实的全部（凯斯·桑斯坦，2008）[4]。

“过滤气泡”引发的“信息茧房”和“回音室效应”，限制用户接触信息的范围和途径，使公众接收到的多是同质化的信息，难以获取全面信息，很难突破信息壁垒寻找其他类型的信息，容易导致用户信息窄化，甚至有可能会出现“网络群体极化”现象。

2.3算法黑箱

“黑箱”是控制论的概念，作为一种隐喻，是指那些不为人知的不能打开、不