强人工智能的算法权力迭代与法律规制——以ChatGPT为视角.pdfVIP

2024年第1期铁道警察学院学报2024No.1

第34卷总第169期JournalofRailwayPoliceCollegeVol.34Serial169

强人工智能的算法权力迭代与法律规制

——以ChatGPT为视角

张淇，樊云慧

（山西财经大学法学院，山西太原030012）

摘要：以ChatGPT为代表的生成式人工智能引爆了舆论，算法是人工智能的核心技术，具有逐渐摆脱

“工具论”的范畴，蜕变成一种“准公权力”的现实危机。在生成式人工智能标注数据和“人类强化反馈学习”

模型影响下，以ChatGPT为代表的人工智能使得算法权力产生新的迭代，催生多维度、多领域下更广、更深层

次的异化风险。对此，应引入全链条的风险防控机制，加强多法律主体治理；重点把握初端和终端两个关键

节点，做好强人工智能算法的系列监管工作；细化完善《生成式人工智能服务管理暂行办法》，制订具体可行

的算法权力规制路径，维护好相对人的正当权利。

关键词：强人工智能；ChatGPT；算法权力；异化风险；数据权利

中图分类号：D926文献标识码：A文章编号：1009-3192（2024）01-0030-08

DOI:10.19536/ki.411439.2024.01.005

GenerativePre-trainedTransformer）最受用户欢迎，

一、强人工智能算法的技术变革

它在文本撰写、即时对话、代码代撰、翻译、论文撰

“强人工智能”概念最早由约翰·塞尔提出，他写与润色等多功能上展现出优秀生产力。ChatGPT

认为任何人工创造意向性（StrongAI）的尝试都不可是由OpenAI公司设计的大型语言模型，截至2023

能仅仅通过设计程序来取得成功，而必须复制人类年3月15日，OpenAI公司已推出必威体育精装版的GPT-4，由

［1］

大脑的因果能力。先前的低阶算法主要通过“收最初的简单文本模型进化到图像、视频等多模态模

集—分析/归类”大数据的方法为决策者提供相关的型。ChatGPT之所以会有高阶智慧性表现，主要得

数据偏好，最终做出决策的主要还是算法背后的益于人为标注数据和GPT模型中的“基于人类反馈

人，算法本身并不能输出为人所直接理解的信息，的强化学习”（RLHF）模块。人为标注数据是指在

是一种有样学样的“鹦鹉智能”。生成式人工智能一定的人为干预下具有某些人类偏好的数据，它不

可以通过模仿人类思维，生成语言、文字、图像等各仅糅合了人类日常的习惯性表达，也具有语义正义

种人类可读性内容，实现与人类之间的无差别交性标准。RLHF大致由“预训练语言模型”（PLM）、

流，是一种可以调动某种程度上能动性的“乌鸦智“收集数据并训练打分模型”（RM）、“通过强化学习

①

能”，甚至还可以将其视为人与机器的结合物，开微调”（RL）三个子模块组成，从而使源数据在经历

［2］

启了由弱人工智能向强人工智能跨越的转折点。了“人为数据标识-语言预训练-语言质量打分评

在众多生成式人工智能产品中，ChatGPT（Chat定-质量强化微调”四个数据自测的步骤后，输出满

收稿日期：2023-09-16

作者简介：张淇（2000—），男，山西财经大学法学院硕士研究生，研究方向为人工智能法学、数字法学；樊云慧

（1968—），女，山西财经大学法学院院长、教授、硕士生导师，研究方向为公司法、金融法。

①“鹦鹉智能”是指鹦鹉学舌般的人工智能，它所体现的是一种复制、模仿能力，并不具备逻辑思辨能力。“乌鸦智能”的概

念是受乌鸦喝水故事的启迪，人工智能初步具备了思维的能动性，展现出行为上的灵活性。

·30·