人工智能技术的安全风险亟须重视.docx

?

?

人工智能技术的安全风险亟须重视

?

?

张于喆李红宇

技术发展无疑是人类文明进步的主要推动力，不仅再造了经济社会发展的驱动优势，同时重塑了经济社会发展的逻辑轨迹。当前，人类社会正处在一个大发展大变革大调整的时代，人工智能技术是影响经济社会发展的重要变量。如果我们不能正确理解技术条件带来的颠覆性变化，就无法在这场全球经济社会格局的大变革中重新定位自身角色、找到发展方向。

一、人工智能技术作为影响经济社会发展的重要变量具有两面性，既带来新机遇，又带来新挑战

当今，我们正处在百年未有的大变局中，人工智能技术正在引领新一轮科技革命。人工智能技术由基础技术和通用技术构成，其中基础技术主要包括云计算和大数据平台，通用技术主要包括机器学习、模式识别与人机交互。随着云计算和大数据平台的发展，以及超强算力、算法模型、海量数据和应用场景的共同作用，以计算智能、感知智能、认知智能和人机增强型智能为代表的人工智能技术呈现加速发展态势，并不断演进成为新一轮科技革命和产业变革的重要驱动力量。麦肯锡（MGI）报告指出，人工智能有可能显著提高整体经济生产力，其影响堪比19世纪的蒸汽动力、20世纪的工业制造和21世纪的信息技术对世界经济的影响（或更大）。应该说，人工智能技术作为国际竞争的新焦点，为我国经济社会发展带来了新机遇，是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题;其快速发展不仅对于新时代下我国转变发展方式、优化经济结构、转换增长动力、提升社会治理能力具有重大意义，而且只有加快发展新一代人工智能，才能避免因缺少人工智能技术辅助而在战略判断、策略选择与执行效率等方面而进一步拉大与技术先进者的能力鸿沟，才能赢得全球竞争主动权。

同时，人工智能技术发展的不确定性也会给一国带来新挑战，比如说，其会受限于算法不可解释性、数据强依赖性等技术问题以及人为恶意应用，而对经济社会与国家政治领域带来全新挑战;特别是在与实体经济深度融合发展的过程中，也可能会对经济安全、意识形态安全、国家安全、政权安全等方面造成一系列挑战。例如，根据不完美、不可预测的现实世界数据做出预测、决定的人工智能系统，很有可能会因缺乏常识和推理能力而以不恰当的方式被使用;特别是如果用来做出决定的数据存在偏见，那么算法会继承、吸收、再现和强化现有的不平等数据模式，这种反馈效应模式使得最后的结果会加剧不平等并引发各类安全隐患。

总体而言，人工智能技术不仅仅关乎技术，更将关乎治理，必将在广度和深度等方面对一国经济社会产生深刻影响，甚至是“颠覆性”变化，其结果也将直接影响世界发展格局和国家前途命运。因而，面对百年未有之大变局，必须强化风险防范意识，早识别、早预判，通过提前识别风险、精准管控风险，才能妥善防范化解重点领域风险，确保人工智能技术的发展行稳致远。

二、人工智能技术对经济安全、意识形态安全、国家安全、政权安全的潜在负面影响不可小觑

随着人工智能技术的不断发展和应用不断突破瓶颈，人工智能技术不仅已经有能力做出可以改变普通人日常生活的决定，而且对经济安全、国家安全、意识形态安全、政权安全的潜在负面影响之快、之大、之深远远超出人们预期。因而，在人工智能领域的技术探索已处于世界前列的同时，如何确保“我们用技术打造的世界，是一个我们想要居于其中的世界”，成为当前我们面临的关键问题。

从经济安全的角度看，尽管人工智能的整体发展仍处于初级阶段，仍然只能解决特定问题，但作为新一轮国际竞争的焦点，人工智能技术可能会引发新的安全风险，最常见的安全问题主要包括对国外信息技术产品的高依赖性、锁定在产业链中低端、数字鸿沟的不断加剧等方面。例如，在人工智能产业链的基础层、技术层和应用层，我国更多集中于将技术应用于商业場景，具有很强的背景依赖性，很难将一些领域的技术进步转化到其他领域;而人工智能技术的核心在于算法、算力和数据，我国在算法、算力以及致力于解决不同类别问题等方面，与先发国家相比差距还相对较大。其中，在CPU、内存、硬盘和操作系统等核心基础软硬件产品方面，我国的CPU主要依赖英特尔和AMD，内存主要依赖三星、镁光，硬盘主要依赖东芝、日立和希捷，操作系统主要依赖微软，特别是，中兴事件更是给我们敲响了发展警钟。又如，从《专利合作条约》（PatentCooperationTreaty，PCT）申请的数量来看，美国仍然是技术输出的领头羊，并且其申请量占到总量的41%，中国申请数量相对较少，仍然没有形成较大规模性的技术输出。再如，人工智能技术发展的最大受益者是高技能劳动者和投资者以及积极采用技术的创新型前沿公司，潜在受损者将是从事中低技能工作的人群以及不愿意或无法快速实施技术的公司，由此产生的“人工智能技术分歧”将会加剧社会不平等、助长经济不平等和破坏竞争，不利于经济可持续发展并引发经济风险与危机。