生成式人工智能应用于学术研究的风险及其预防机制.pdfVIP

2024年第3期黑龙江高教研究No.3,2024

总第359期HeilongjiangResearchesonHigherEducationSerialNo.359

生成式人工智能应用于学术研究的

风险及其预防机制

周莎,张

尚

（陕西师范大学，陕西西安710062)

摘要：生成式人工智能是利用计算机模拟人类的智能行为所开发的相应实践理论与技术，其在各个领域的爆发应用为未

来人类的发展提供了无限的想象空间，与此同时，虚假信息、学术伦理、劳动替代等问题也引发全球热议。实践地看，生成式

人工智能在当前的学术研究中可能存在人文性缺失、科学性缺失、依赖性成瘾、原创性与批判性缺失等风险。为更好地将人

工智能应用于学术研究并使其得到可持续发展，需要规范生成式人工智能使用，助推学术研究的向善发展；优化生成式人工

智能参数，鉴别学术研究伪成立性；调控生成式人工智能发展，加强学术研究的前瞻预防。

关键词：生成式；人工智能；学术研究；ChatGPT

中图分类号：G644文献标志码：A文章编号：1003-2614(2024)03-0001-07

生成式人工智能（GenerativeArtificialIntelligence）是一造力的功能。简言之，生成式人工智能能够提供“问题提示

种“能够模拟人类的创造性思维展现出强大的类人能力”的-算法生成－会话响应”的基本服务[4]。虽然这种服务在

计算机大型语言模型，它能根据用户输人的指令，通过统计科研领域表现为能够帮助科研工作者在海量信息数据与强

与算法，输出新的文本、图像、音频、视频、代码等内容。Chat-大的算法加持下进行深度学习和高效研究，但也因其便捷性

GPT(ChatGenerativePre-trainedTransformer)是生成式人工和创造性的独特属性,又会引发科研工作者对于学术研究的

智能的集大成者，它由美国人工智能公司OpenAI于2022诸多争议，乃至造成学术失真等严重影响。当前，国内外多

年11月30日正式发布，并迅速成为历史上用户数量呈现指家学术期刊、出版机构禁止将ChatGPT列为论文合著者，而

数增长的应用聊天机器人。ChatGPT不断推陈出新，目前已针对这些问题，学术界目前最主要的应对措施就是政策性封

更新到ChatCPT-4,其更新迭代的迅猛与成功的势态把生成堵、禁止使用或限制性使用。封堵、禁止或限制并不是解决

式人工智能逼近通用智能的重大问题推到了前台[。面对生成式人工智能可能诱发的学术诚信问题的最终办法，而是

迅猛发展的生成式人工智能技术，各国政府与世界机构组织要以一种辩证的态度审议这一现象,通过生成式人工智能的

本质及特征，从其应用于学术研究所造成的可能风险出发，

均有监管动作。2023年4月11日至8月15日，我国迅速起

草、审议、公布并实施了《生成式人工智能服务管理暂行办深层次发掘造成这些风险的原因，由此提供一种建基于理性

法》，提出“对生成式人工智能服务实行包容审慎和分类分级思想方案上的可操作路径，从而为我们正确理解与科学地将

生成式人工智能用于学术研究提供解释依据与行动范式。

监管原则[21[3];2023年4月30日，西方七国（美国、英国、

法国、德国、日本、意大利和加拿大)集团数字与技术部长联

一、生成式人工智能的内涵特征及其应用于学

合声明对生成式人工智能技术提出了“法治”“正当程序”

术研究的风险

“民主”“尊重人权”“利用创新机会”等五项原则，力争兼顾

开发、利用与监管的效能。这些举措表明：监管部门对待生一生成式人工智能的内涵

成式人工智能技术新产品的态度是在可控状态下发展，以规随着ChatGPT等人工智能机器人的兴