从GPT-4看人工智能的进化约束和伦理边界问题.pdf

·科技伦理·

从从GPT-GPT-44看人工智能的进化约束和伦理边界问题看人工智能的进化约束和伦理边界问题

唐代兴

［摘要］以自然物为材料的传统技术，是没有自主性和主体能力的纯粹工具，它本身不具有伦理性，也不存

在伦理问题。人工智能技术之所以获得伦理性，并不断地生成更新的伦理问题，是因为它以生物人脑为研

发对象，通过模拟人脑工作原理和运行机制，发现人类模拟、学习、生成、创造的“化物为人”的进化法则，执

着于探索“模拟的本质是学习，学习的本质是生成，生成的本质是创造”，成功地创造出几何学进化方式的

GPT-4，不仅整体地展现了人工智能技术的自主性品质和主体能力，也将其根本的伦理问题暴露了出来。

人工智能技术如何突破其自主性进化的伦理边界和应用的伦理约束，已成为人类将以何种方式存在的根本

问题。

［关键词］GPT-4；迁移性生成；扩展性创造；伦理约束；伦理边界

［作者简介］唐代兴，四川师范大学伦理学研究所教授，荣誉教授，四川省学术和技术带头人。

2023年3月14日，OpenAI发布了GPT-4，引起全球性沸腾。八天之后，生命未来研究所（Future

ofLife）发布由伊隆·马斯克（ElonReeveMusk）、杰弗里·辛顿（GeoffreyHinton）、盖瑞·马库斯（Gary

Marcus）和图灵奖得主约书亚·本希奥（YoshuaBengio）、《人工智能：现代方法》作者斯图尔特·罗素

（StuartRussell）、苹果公司联合创始人史蒂夫·沃兹尼亚克（SteveWozniak）、StabilityAI首席执行官

埃马德·莫斯塔克（EmadMostaque）等1127位科技界领袖人物和人工智能研究人员署名的《暂停巨型

［1］

AI实验室：一封公开信》，引爆喧哗和忧惧，同时也引发了人们对生成式人工智能技术的不可控性

［2］

的更为忧虑的伦理关注：“没有伦理规范，AI就没底线。”“试想，如果ChatGPT可以谋划出杀人越货、

［3］（1）

抢劫银行的最佳路径，帮助不法分子作案，那这个社会将会变成什么样子？”GPT-4的问世，迫使

人们不得不面对日益迭代更新的生成式人工智能技术这个越来越“可怕的好东西”，它的日益强大的

嵌入功能突显出“科林格里奇困境”这一世界级的伦理难题［4］（100），因为强生成能力的ChatGPT技术的

野性研发与运用，无声地“堆积”起诸多的“形而上学问题”，也使技术演进层累起更多的“偏差性、不

可靠性、鲁棒性、有毒性”等伦理特性，并诱发出前所未有的“道德判定障碍、社会偏见刻板化、用户数

［5］（135）

据去隐私化、科学技术异化等伦理风险”，加剧了“数据隐私泄露与算法偏见”，尤其是“责任主体

冲击与边界模糊、主客体异化与信任危机”等伦理风险［6］（60－68）。“GPT-4在技术更新的同时也引发了

［7］（1）

底层算法、训练数据、知识产权方面的问题和伦理风险”，其实验和应用“场景内的拟人化认知倾

向滥用、理智德性消减、多元化偏见风险叠加与‘实验者效应’非道德强化”问题更加突出［8］（3－9），更为

［9］（54）

根本的是，GPT-4的问世将导致“人的主体性丧失”。然而，这些忧虑和思考并没有摆脱人工智能

伦理思考的固化的“问题-对策”式认知模式和思考方式，即认定人工智能技术“是个好东西”，只是它

［4］（100-107）

的超出人的想象的发展让人们意识到这原来是一个“可怕的好东西”，人工智能伦理的研究，

就是给这个“可怕的好东西”套上规范的“笼头”，使之成为可供人们任意驱使和运用的“好东西”，而