人工智能伦理导论- 课件 第3、4章 人工智能伦理、人工智能风险.pptx

Lecture3人工智能伦理如果有人设计计算机病毒，那么就有人设计不断自我完善、直到最终超越人类的人工智能，其结果将是一种新的生命形式。这种超级人类一出现，未改进的人类就再也不是他们的对手，严重的问题由此产生。原版人类将逐渐灭绝，或变得无足轻重。……人工智能的真正风险不是它的恶意，而是它的能力。超人工智能在完成目标方面非常出色，如果这些目标与我们的目标不一致，我们就会陷入困境。——霍金（StephenHawking）目录642315人工智能伦理数据伦理网络伦理计算机伦理信息伦理计算机伦理发展历程主要问题基本原则机器人伦理3.1计算机伦理发展历程计算机伦理的起源计算机伦理（学）（ComputerEthics）是应用伦理学的一个研究领域,研究对象是在计算机的设计开发和应用以及计算机信息的生产、储存、交换和传播中所涉及的伦理道德问题。是关涉计算机及其应用中所固有的涉及文化、社会、法律和伦理等方面问题的研究和分析。计算机伦理最早可追溯到20世纪40年代的二战时期：1948年，美国数学家和哲学家、麻省理工学院教授维纳(NorbertWiener)在他的《控制论》（Cybernetics）一书中指出：“像众所周知的原子弹一样……超高速计算机器给人类带来的是美好还是罪恶？”1950年，他的另外一本书《人有人的用处》（TheHumanUseofHumanBeings），深入讨论了围绕信息技术的伦理问题。维纳的观点为研究计算机伦理学奠定了基础，作为第一位就计算机对人类价值的影响进行严肃研究的学者,维纳被尊为“计算机伦理学”的创始人。1958年，发生了世界上第一起计算机犯罪。一位程序员能够使用计算机代码来防止他的银行账户被标记为透支。然而，当时没有法律能够阻止，因此他没有受到指控。人们意识到，为了确保避免其他人仿效、通过计算机进行类似金融犯罪的发生，计算机相关道德准则是必要的。发展历程3.1计算机伦理第二个问题是计算机和信息技术的滥用和计算机犯罪问题。20世纪60年代之后,西方计算机应用过程中出现的因个人数据被盗用而在信用消费方面引起的问题,以及新闻媒体对大量计算机从业人员职业犯罪案例的报道引起了各方面人士的关注。有的学者把计算机犯罪问题形象地概括为“当人们进入计算中心时,他们把伦理丢在门口了”。计算机伦理研究的起步20世纪50年代至60年代中期是计算机伦理研究的沉寂时期。由于计算机技术的发展在当时处于起步阶段,计算机技术尚未得到普遍应用,其间许多伦理学问题还没有充分暴露出来。因而,维纳于40年代末提出的计算机伦理问题的见解在学术界并没有引起太大的反响。第一个问题是隐私问题。20世纪60年代中期,美国政府的许多部门已经开始为个人建立计算机信息数据库,美国国会也曾认真考虑,根据这些数据库给每一位公民指定一个身份证号。当时,由于许多人担心这样的身份证号码会干涉个人的隐私权而使得这项动议被搁置。然而,信息技术与隐私的关系问题无疑成了此时期计算机伦理问题研究的第一位动因,也成为学者们深思的一个重要课题。20世纪60年代中期，随着计算机技术的飞速发展及其在各个领域内的广泛应用,与之相关的许多社会、伦理问题也逐渐明朗化。计算机应用中出现的两个问题直接促进了计算机伦理学研究的广泛开展。发展历程计算机伦理研究的起步3.1计算机伦理在政府层面上,世界各国政府部门做出了积极地反应。1970年,美国成立了由兰德公司的威尔和哥伦比亚大学的沃斯顿各自领导的独立专家组,从伦理学等方面对隐私和计算机数据库问题进行了专门研究。专家组的研究成果对于美国1974年的联邦隐私法案产生了很大的影响；英国政府于1971年成立了一个专门委员会,对隐私和计算机问题进行研究；瑞典于1974年在欧洲率先实施了国家性的数据保护法；1981年，欧洲委员会通过了欧洲数据保护条约,这个条约为整个西欧的数据保护法的建立奠定了基础。诸多学者也投入到相关问题的研究。1968年，帕克（DonnParker）发表了《信息处理中的伦理规则》一文,阐明了建立计算计伦理规则的必要性,并初步拟订了一些规则。该规则于1973年被美国计算机协会（ACM,AssociationforComputingMachinery）所采用。1976年，魏森鲍姆（JosephWeizenbaum）出版了《计算机能力与人类理性》（ComputerPowerandHumanReason）一书,阐明了人类思维与本质上作为机器的计算机运行程序的差异。他指出,人不应当被视为机器,仅仅从机器层面理解人,是对人自身价值的否定。该书被列为西方计算机伦理学的经典之作。3.1计算机伦理发展历程计算机伦理的地位确立1976年,著名应用伦理学家曼