联合国发布《人工智能伦理问题建议书》.docVIP

联合国发布《人工智能伦理问题建议书》 11月25日，联合国教科文组织正式推出《人工智能伦理问题建议书》（以下简称“《建议书》”）。《建议书》定义了确保人工智能健康发展所需的伦理价值观和原则，旨在指导完善法律基础设施建设以应对人工智能技术潜在伦理问题，提出以提升数据透明度、建立问责制及开展隐私影响评估等强化数据保护，强调了人工智能在促进教育、文化及社会发展方面的积极贡献，呼吁国际社会共同行动，积极应对人工智能伦理问题。 一、定义了确保人工智能健康发展所需的伦理价值观和原则 《建议书》述及与人工智能领域有关且属于教科文组织职责范围之内的伦理问题，将人工智能系统视为有能力以类似于智能行为的方式处理数据和信息的系统，通常包括推理、学习、感知、预测、规划或控制等方面。《建议书》提出确保人工智能健康发展所需遵循的共同价值观和原则。价值观方面，在人工智能系统的整个生命周期内，必须尊重、保护和促进人权和基本自由，应在人工智能系统的整个生命周期内确认、保护和促进环境和生态系统的蓬勃发展，应依照国际法，确保尊重、保护和促进多样性和包容性，促进和平、包容与正义、公平和相互联系。原则方面，包含相称性和不损害、安全和安保、公平和非歧视、可持续性、隐私权和数据保护、人类的监督和决定、透明度和可解释性、责任和问责、认识和素养、多利益攸关方与适应性治理和协作十个方面原则。 二、旨在指导完善法律基础设施建设以应对人工智能技术潜在伦理问题 《建议书》建立了第一个全球规范框架，同时赋予各国在其层面上应用该框架的责任，旨在指导必要法律基础设施的建设，以应对人工智能技术的潜在伦理问题。一是引发根本性的伦理关切，人工智能技术的潜在影响包括但不限于人的尊严、人权和基本自由、性别平等、民主，可能内嵌并加剧偏见，导致歧视、不平等和排斥，扰乱地方和地区的伦理标准和价值观，并对文化、社会和生物多样性构成威胁；二是加深世界各地国家内部和国家之间现有的鸿沟和不平等，由于各国国情不同，加之一部分人不参与所有技术发展的意愿，一些国家和一部分人可能因无法公平获取人工智能技术而掉队；三是存在大规模监视数据泄露风险，涉及与犯罪、刑事诉讼、定罪以及相关安全措施有关的数据，生物识别、基因和健康数据，与种族、肤色、血统、性别、年龄、语言、宗教、政治见解、民族、族裔、社会出身、与生俱来的经济或社会条件、残障情况或任何其他特征有关的个人数据存在因人工智能技术泄露的风险，可能给个人造成特殊损害、伤害或困难。四是执法中使用不可靠的人工智能技术，包括错误信息、虚假信息、仇恨言论的以及滥用个人数据的风险，人工智能技术的发展需要相应提高数据、媒体与信息素养，并增加获取独立、多元、可信信息来源的机会。 三、提出提升数据透明度、建立问责制及开展隐私影响评估等强化数据保护 一是提升数据透明度。提高透明度有利于开展公众监督，减少腐败和歧视，有助于发现和防止对人权产生的负面影响。在人工智能系统的整个生命周期内需努力提高人工智能系统的透明度和可解释性，此外，透明度和可解释性的程度应始终切合具体情况并与其影响相当，在透明度和可解释性与隐私、安全和安保等其他原则之间取得平衡。二是建立问责制。人工智能行为者和会员国应根据国家法律和国际法，特别是会员国的人权义务，以及人工智能系统整个生命周期的伦理准则，尊重、保护和促进人权和基本自由，并且应促进对环境和生态系统的保护，同时承担各自的伦理和法律责任。建立适当的监督、影响评估、审计和尽职调查机制，包括保护举报者，确保在人工智能系统的整个生命周期内对人工智能系统及其影响实施问责。三是开展隐私影响评估。建议书中指出，会员国应采取保障措施，根据国际法保护隐私权，包括应对人们对于监控等问题的关切。会员国应通过或实施可以提供适当保护并符合国际法的法律框架。大力鼓励包括工商企业在内的所有人工智能行为者遵守现行国际标准，特别是在伦理影响评估中开展适当的隐私影响评估，并考虑到预期数据处理产生的更广泛的社会经济影响，并在其系统中采用从设计入手保护隐私的做法。 四、强调人工智能在促进教育、文化及社会发展方面的积极贡献 教育方面：一是促进“必备技能”的掌握，基本读写、计算、编码和数字技能、媒体与信息素养、批判性思维、社会情感技能和人工智能伦理技能；二是将人工智能技术应用于教学、教师培训和电子学习等方面的研究活动，以增加机会，减轻这一领域的挑战和风险；三是吸收除科学、技术、工程和数学（STEM）之外的其他学科，例如文化研究、教育、伦理学等，促进了开展跨学科的人工智能研究。 文化方面：一是通过弥合文化差距、增进人类理解以及消除因减少使用自然语言等因素造成的负面影响。二是随着人工智能技术被用于创造、生产、推广等多种文化产品和服务，促进了针对艺术家和创意从业人员的人工智能教育和数字培训，以评估人工智能技术在其专业领