人工智能如何德才兼备.docx

?

?

人工智能如何“德才兼备”

?

?

温新红

1956年夏季，当一批年轻的科学家首次提出“人工智能”这一术语，想必他们是激动的。在经过了缓慢发展的一段时间后，得益于大数据驱动、硬件技术的不断发展、计算能力的提升、深度学习算法等带来的数据智能和感知智能上的突破，才使得人工智能近些年快速发展。

“在人工智能的发展和应用中，伦理必须占据中心地位。”今年4月，英国上议院出了一份长达183页的报告《人工智能在英国：充分准备、意愿积极、能力爆棚？》，不仅说了人工智能在英国的发展，更聚焦于伦理道德问题——那些AI可能为人类带来的风险。

在机器人原则与伦理标准方面，日本、韩国、英国、欧洲和联合国教科文组织等相继推出了多项伦理原则、规范、指南和标准。

2016年，联合国教科文组织发布了《机器人伦理报告初步草案》，该《草案》不仅探讨了社会、医疗、健康、军事、监控、工作中的机器人伦理问题，最后還对运用机器伦理制造道德机器进行了讨论。

2016～2017年，电气电子工程师协会（IEEE）颁布了《人工智能设计的伦理准则》的第一版和第二版。

目前，中国相关部门也正在积极地开展人工智能的标准研究。

无疑，人们在探讨人工智能带来的伦理问题的同时，还在思考怎样才能解决这些伦理问题，尽管离解决问题还有些距离。

机器有偏见

今年5月，滴滴顺风车司机杀害女乘客事件发生后，有网友爆出，滴滴顺风车司机通过平台软件，在接单前可以看到以前司机对乘客的全部评价，而这些评价中就包括对女性乘客外貌的评价。这是因为平台软件上增加了社交功能。

今年2月，《纽约时报》英文网站发表了一篇文章，指出如今非常热门的人工智能应用人脸识别，针对不同种族的准确率差异巨大。这让人们意识到，人工智能系统确实可能存在偏见。

人工智能带来的文化偏见的例子还有很多，如词语“女性”“妇女”与艺术人文类职业以及家庭联系更紧密，词语“男性”“男人”则和数学、工程类职业更近。尤为危险的是，AI还有强化所习得的偏见的潜能，它们不像人可以有意识地去抵制偏见。

不用说，当下时不时就会看到人工智能的新闻，且多是对人们生活已造成或者可能造成负面影响的消息。又比如这两天在国内出现的手机任意调动摄像头事件，人们震惊于原来有的手机会自动把摄像头打开。

显然，人工智能的伦理问题比以往技术带给人类的更为复杂。

美国耶鲁大学教授温德尔·瓦拉赫表示，人工智能是一种认知技术，是区别于过去的技术发展。过去的技术发展确实能取代一部分人类的劳动，但通常不包括人类的精神活动。而人工智能可能会在更广泛的领域内取代人类的工作。

技术带来的伦理问题本质上是相同的。但随着新技术的发展，这些问题会以新的形式出现。这里不仅包括人工智能，也包括其他新兴技术。“但不同的是，人工智能不仅仅是一个特定的应用，或者一组应用，它是一项几乎可以应用于生活的每一个方面的技术。”

伦理有缺位

“人工智能和包括机器人在内的智能化自动系统的普遍应用，不仅仅是一场结果未知的开放性的科技创新，更将是人类文明史上影响至为深远的社会伦理试验。”中国社会科学院研究员段伟文近些年致力于人工智能的伦理研究，他表达了自己的担忧。

对于前面提到滴滴顺风车司机杀害女乘客的事件，段伟文分析，作为共享交通平台，它的目标是安全快捷地把乘客送达目的地，现在为了达到商业上的利益最大化，增加了社交软件，却没有考虑到那些女乘客以及潜在受害者的利益。这就涉及到伦理问题。“通过对司机、乘客和平台的利益分析和价值分析，发现其实包含了对各方的利害得失与价值冲突。”

如果说人工智能对人类的威胁是终极问题，如何解决还未可知，那么人工智能在当下活动中体现出来的伦理问题就亟待解决了。

段伟文认为，应当从我们这些年研究科学技术前沿中的、科学技术应用中遇到的实例，去探讨人工智能的伦理问题。“从这个角度，我更愿意把它当作未完成的伦理。”

与以往不同，人工智能伦理研究不再是一个高高在上的理论，也没有一套适用全部情形的普遍原则体系，更多的是针对具体的人类活动或者科技实践的原则体系，比如说，陪护机器人就需要一些防止过度依赖机器人的原则。

“从里面找到一些价值冲突，需要作哪些伦理的决择，让我们发现问题、研究问题。”段伟文说。

另外，当下的社会中，大数据让人们享受了便捷，同时这些数据会受到不良的使用，或者是没有必要的滥用。而由于大数据的挖掘导致商业智能的运用对人的权利的侵犯，这种侵犯最核心一点就是人的自主权，包括隐私。

因此，欧盟数据保护条例中，针对保护个人数据的态度很强硬，只要能够识别是个人的，就是个人数据，而且个人能决定他的数据怎么使用、该不该使用，以及对有些数据要求被遗忘、数据可携带等。

“让技术在社会上更好地运行，就要从伦理上对它进行设计。”段伟文说，比如现在经常提到监控装置对人的隐私的伤害，将来可以让使用者看到摄像头的界面，