人工智能的风险及其防范.docx

?

?

人工智能的风险及其防范

?

?

杨丁+张登翔+蒋太平+冉闯闯+谢佳讯

摘要：高科技在社会生活中广泛应用时，带来了很多科技红利，但是也出现了一些风险。本文主要讨论最近发展势头很猛的人工智能。讨论人工智能在伦理、就业、安全等方面可能带来的风险，以及防范措施。

关键词：高科技；人工智能；伦理治理；系统安全；自反性；失业补偿；

1引言

近年人工智能出现了第三次发展高潮，这次高潮因为当前的硬件实力、算法和数据等技术的原因，被认为是区别与以往的高潮。当前强大的硬件基础、海量数据和先进的算法为人工智能赋予了强大的动力。

强大的动力，使得人工智能渗透到很多的社会领域，我们在享受它带来的科技红利的同时，也必将受到一些负面影响。本文将会讨论人工智能可能带来的负面影响，以及对应的解决措施。

2人工智能

人工智能，也就是机器智能，一般指人为制造出来的机器所表现出来的智能。他的核心为机器学习。机器学习可以分为监督学习和无监督学习。当用标记好的数据进行模型训练时，为监督学习。当用未标记好的数据进行模型训练时，为无监督训练。监督学习的识别率一般都比较好，但是获取标记好的数据比较难，需要较高的代价才能获得。无监督学习可以不使用标记数据，但是学习效率低和识别率低。

目前最受关注的机器学习算法为，福岛教授提出来的卷积神经网络。该算法是监督学习下的机器学习。此外，深度学习的概念来源于人工神经网络，常见的深度学习算法包括：受限波尔兹曼机，卷积网络，堆栈式自动编码器。

3人工智能带来的问题以及解决措施

3.1人工智能系统的安全问题

人工智能系统包括了，智能硬件、移动应用端和云端。首先从技术层面来说，智能硬件的体型普片偏小，所带资源较少。出于功耗的考虑，智能硬件的加密手段变的比较死板单一。其次，智能硬件的固件难以升级，一旦固件上出现漏洞，就很难对其进行维修只能将设备进行更换，这在成本和安全上都很是不利。在移动应用端上，也存在这一些问题，移动端的防守能力普片偏弱，存在这很多的显露出来的或者隐藏这的漏洞。如果不法分子利用了这些漏洞，则可能给用户带来惨痛的后果。云端和应用端也有类似的问题，服务器上或多或少的存在一些漏洞。

3.1.1人工智能系统安全问题的解决方案

（1）面对智能硬件的安全问题，我们可以从生产厂层面上保障智能硬件的安全，比如可以在智能硬件中加入FPGA（现场可编程门阵列），在上面存入加密协议和固件。当加密协议被破解或固件出现漏洞时，实时的更新FPGA上的机密协议和固件就可以了。虽然这样子会增加成本但是安全有了更大的保障。

（2）建立人工智能系统的安全评估与认证制度。设定出比较统一化的安全等级评价标准，对不同的领域给予适合他不同的安全等级要求。对于直接影响生命安全的人工智能应用，给予比较高的安全等级要求，如智能驾驶。当然对于一些不太影响大众的人工智能应用，可以适当的放宽要求，以免抑制了技术创新。总体来说，随着人工智能领域的安全评估和认证制度的出现，人工智能系统的良品率将会上升。

（3）建立安全威胁监察制度，让硬件生产商、相关从业者、使用者一起监察人工智能系统的安全漏洞，一旦发现安全漏洞就即时上报。确保人工智能系统在生命周期内的正常工作。

（4）建立行业自制制度，促进行业内同行的信息共享。比如，建立白名单，凸显出高质量的供应商和制造商。也可以建立方案解决库，当出现了已经出现了的问题后，可以直接从方案解决库中，找到解决方法，快速的解决问题。

（5）建立响应机制，建立专门的技术团队，当出现问题时，以最快的速度解决问题。

（6）建立明确的责任制，我们可以将责任细化到产业链的每一个节点上。

3.2失业问题

人工智能的高速发展，会对未来的就业结构带来很大的影响。未来的社会生产活动可能只是由机器人、少数的从业者和人工智能来完成。这会让很多人失业，而这些失业者将会变成社会中动荡不安的因素。如何应对这些失业者，也是人工智能需要面对的问题。

3.2.1人工智能带来的失业问题的解决方案

人工智能带来的失业问题，可以由多个方法进行协同解决。第一个方法就是，提高高收入人群的征税比例，用以弥补和缓解高收入人群和低收入人群的差距。第二个方法就是，向人工智能和机器人进行征税，对其征收智能税。通过提高人工智能的使用成本来缓解机器人的使用速度，为人类带来一定的缓冲时间。

对于失业者而言，随着人工智能税和高收入群体征税比例的增高，相应的福利措施，将会保持他们的基本生活。如果失业者对此不满足，他们应该至少还有两个选择。选择一是，进行学习，努力提高和拓宽自己的知识面和知识能力，从而进入到人工智能相关的工作岗位。从而再次拿到工资。当然这对个人的要求很高，要有较好的毅力和智商。对于无法二次就业的人，可以让这些人员通过心灵的调适，追求更加纯粹的人的价值和心灵的安静。

3.3人工智