生成式AI规范赋能科学研究的欧盟借鉴.pdfVIP

域外采风tougao1@chinaitedu.cn

生成式AI规范赋能科学研究的欧盟借鉴

苏福根教育部教育管理信息中心研究处

杨伟平教育部教育管理信息中心网络安全处

欧盟委员会发布的《科研领域负责任使用生成式人工智能指南》针对研究人员、研究机构及研究资助机构等

摘要：

不同主体提出建议，为科研实践提供明确的操作指导。该指南对我国生成式人工智能的科研应用有较好的借鉴价值，因此

本文提出以下启示：应尽快制订适用于科学研究场景的专门规范或指南；强化科研数据保护机制，提升网络安全水平；完

善组织架构，确保生成式人工智能应用的有效监管。

生成式人工智能；科学研究；应用规范；应用指南

关键词：

G434A1674-2117（2024）23-0104-04

中图分类号：文献标识码：论文编号：

●引言

2024年3月20日，欧盟委员会与欧洲科研成果负最终责任。科研人员需

生成式人工智能，作为一种颠研究区国家和利益相关者共同提出对由人工智能工具生成或在其支持

覆性的技术，正在对经济社会的发《科研领域负责任使用生成式人下生成的内容的完整性负责；对使

[1]

展产生深远的影响。它通过模拟工智能指南》（用生成式人工智能所产生的结果应

LivingGuidelineson

人类的思维和创造力，能够自动生theResponsibleUseofGenerative保持批判的态度，并意识到这些工

成新的信息、产品和服务，从而推AiinResearch）（简称《指南》），以具的局限性，如偏差、幻觉和不准确

动经济社会的全面变革。科学研指导欧洲研究界负责任地使用生性；明确人工智能系统既不是作者，

究是推动经济社会发展的关键因成式人工智能。该指南为我国在人也不是共同作者；不能在科学研究

素，它通过探索未知、创新技术、培工智能赋能行动中推动生成式人工过程中使用生成式人工智能创建

养人才和促进国际合作，为社会进智能科学、规范赋能科学研究提供的捏造材料，如伪造、篡改或操纵

步提供动力。高校作为科学研究的了重要参考。原始研究数据。②透明地使用生成

●《指南》的主要内容

高地，不仅在学术领域具有重要地 式人工智能。科研人员应详细说明

位，而且在推动社会进步和经济发在具体内容上，《指南》分别针在研究过程中主要使用了哪些生

展中也起着关键作用。因此，如何更对研究人员、研究机构和研究资助成式人工智能工具；应披露或讨论

加科学、规范地推动生成式人工智机构科学合理地使用生成式人工所使用的生成式人工智能工具的局

能赋能高校科学研究是世界各国智能提出了建议。限性，包括生成内容中可能存在的

正面临的一个重要的现实问题。1.对科学研究人员的建议偏差，以及可能的缓解措施。③在与

为解决生成式人工智能为科《指南》对科学研究人员主要人工智能工具共享敏感或受保护

学研究带来的关键机遇和挑战，提出以下六点建议：①科研人员对信息时，要特别注意隐私、必威体育官网网址及知

104中国信息技术教育