人工智能大模型伦理规范操作指引全文-同济大学.pdf

人工智能大模型伦理规范操作指引

同济大学上海市人工智能社会治理协同创新中心

一、引言

在信息技术革命的洪流中，人工智能（AI）已逐渐成为驱动社会进步的

重要力量。特别是随着大模型技术的发展，如OpenAI的ChatGPT和GPT-4，

它们的能力和应用范围超出了人们的想象。在智能问答、机器翻译、内容创

作、图像识别等多领域，大模型都展现出了巨大的潜力。但是，技术飞跃同

时也带来了一些前所未有的挑战，尤其是伦理和法律方面的问题。在过去的

几年中，大模型已成为全球技术竞争的核心领域，其惊人的技术突破和产品

体验正在不断推动全球科技的边界。然而，尽管我们被其巨大潜力和无限可

能所吸引，我们也必须意识到，无论在技术研发还是应用落地阶段，大模型

的研发和使用都必须始终遵循相应的伦理准则。

我们强调，任何大模型的研发和应用，都必须在严格的伦理准则指引下

进行。我们不能因为追求科技的进步而忽视了伦理和法律的限制。大模型的

研发和应用引发了诸多伦理问题，例如公平性、透明度、隐私保护等，这些

问题不仅对用户的权益构成潜在威胁，也对社会公平、公正和稳定产生深远

影响。因此，制定一套针对大模型研发和应用的伦理操作指引，推动技术进

步与伦理风险防范和谐统一、相互促进，已成为当前的紧迫任务。

众所周知，在全球范围内，各国和地区都在积极研究并推行AI伦理准

则。本文旨在结合中国的具体情况和国际通用的伦理准则，为中国AI科研

机构、企业与从业人员提供一份适用的大模型伦理操作指引。在此过程中，

我们将参考借鉴《新一代人工智能伦理规范》（科技部）和《人工智能与数

据伦理原则》《人工智能伦理建议书》（联合国）的相关内容，对AI大模型

1

的技术特性和应用场景，以及社会的公众利益和公平公正等原则进行全面

考量。我们期望这份指引既有可操作性，也具有普遍性，既有技术导向，也

有伦理导向，以助力AI科研机构与企业在发展的同时，兼顾社会责任和伦

理要求。

二、AI大模型全生命周期的技术与伦理要素

首先，在大模型等基础模型研发方面，应大力促进创新发展，构建以高

等院校、科研院所、领军企业为主体，产学研深度合作的创新体系。由于大

模型是高资金投入、高人才壁垒的研究领域，我们需要增加战略投入，加大

对重点人才的引进力度，强化科学家之间的国际交流合作，以期加速追赶国

际领先水平。同时，对于可能带来的技术风险，如训练数据中显见的不当偏

向、模型的可解释性问题、系统健壮性的不足等，我们需要从法学与伦理视

角出发，制定严格的研发规范，以防范可能产生的风险。

其次，在产业配套方面，我们应包容审慎，大力支持国产人工智能芯片

和超算平台的发展，以有利于创新与合乎伦理法规的方式构建国家数据资

源平台，发展数据标注产业和合成数据产业等，为国产人工智能大模型研发

提供算力和数据保障。同时，我们需要关注技术的公平性问题，鼓励开源共

享，防止数字鸿沟的加剧，以及海外巨头的技术垄断可能对国内经济发展造

成的影响。

再者，在应用落地方面，我们应积极推动大模型在制造业、医疗、金融、

司法、传媒、互联网等垂直领域的行业示范应用和规模化价值落地。在推动

应用的同时，我们也应努力维护市场竞争秩序，保护用户权益，关注可能产

生的信息内容安全风险，避免人工智能生成内容污染互联网环境。

最后，在行业监管方面，应以更为包容的态度对待大模型及相关应用产

业的发展，鼓励探索创新，同时制定适应其发展的法规，展开分级分类规制，

2

加强对高风险研发活动的伦理审查和专家复核，建立科技创新与伦理治理

的良性互动机制，为行业的健康发展提供制度保障。

总的来说，大模型带来的机遇与挑战并存。在面对新的科技变革时，我

们需要积极拥抱变化，同时也要以法律为依据，坚持伦理准则，防范技术风

险，维护社会公平，只有这样，我们才能确保大模型健康、稳定、可持续地

发展。

三、大模型的研发与应用的伦理原则

在大模型的研发与应用过程中，我们必须坚守的伦理原则包括但不限

于：尊重人的自主权、保护个人隐私、保障公平公正、维护透明度和可解释

性、以及负责任的创新。下面，我们