国开作业《人工智能专题》期末考试参考841.pdf

如何积极应对人工智能时代带来的各种挑战

人工智能（ArtificialIntelligence),英文缩写为AI。人工智能一

直没有一个准确的定义，顾名思义就是用人工的方法和技术模拟、延伸、

扩展人的智能的一门新技术科学。用通俗的话讲就是让机器去完成原来只

有人类才能完成的任务，其核心是算法。

由于人工智能系统的复杂性，即使最优秀的管理程序也不能100%保证

它的安全性，如何尽量降低人工智能的风险，一个行之有效的方法就是让

它在技术上具备监控风险的能力。IBM公司研发的人工智能，在风险防控

方面技术上就做了一些新的尝试。由于人工智能是基于大数据和运算构建

的，为了防止违规操作，系统的运行都能被记录、跟踪和审核，任何重新

接入和系统更新都是可控的。通过非常复杂的层层加密和数字签名系统保

护数据，对运算代码的保护则是通过漏洞扫描和其他技术手段。

还有人主张用专门的人工智能安全管理系统来管理人工智能，理由

是人类有些能力已经不及人工智能，完全由人类管理可能会有些力不从

心，与其这样，还不如交给专门的人工智能管理I系统。这种安全管理模

式的可行性还处于论证阶段，但至少提供了一种关于人工智能风险防控的

可行路径。

人工智能运行的重要依托之一是数据，研发人员最大的担忧就是缺

少数据，尤其是高质量的数据。如果数据偏差大,没有足够的正确信息支

撑,人工智能就会加剧这种错误。目前的数据收集存在结构性偏差,这样会

导致人工智能系统做出的决策将会产生差异效应,从而激发社会不公。比

如现在计算机领域的技术专家绝大多数是男性，女性和少数族群占的比例

很少，这在国定程度上导致技术缺乏包容性，会限制技术人员对这些群体

1

需求的考虑。人工智能研发者的多元化，有助于满足不同人群的利益。另

外，还由于研究人工智能的专业人员大多是理工科背景出身,研究主要集

中在技术上,对于人性方面问题考虑不多。人工智能研发者的见识会影响

到产品的打造，它的研究也应该结合人文科学、跨学科多元化的研究也为

人工智能发展解决偏见提供广泛的视角。

这是一个好时代，人工智能的发展,让我们看到它给人类带来诸多利

益，使我们活得更轻松;也许这也是一个坏时代，随着人工智能发展，当

它也有了愤怒和悲伤的情绪，可能有一天会像术有可能引发的问题提高警

惕、防患于未然，才能使人工智能技术趋利避害，为人类谋取更多福利。

2