人工智能生命：演化方式、危险与伦理考量.pdf

人工智能与观念变革

人工智能生命：演化方式、危险与

伦理考量

舒红跃张颖

摘要：强人工智能和弱人工智能是目前人工智能研究最主要的分类之一。在存在论层面，弱

人工智能是人类生存的技术手段，而强人工智能则是如同其他生命一样，可在真实世界中生存的

人工的智能生命。按照生命演化史上其他生命，特别是人类的进化模式，作为生命的人工智能的

演变不应是奇点式突变，而应是渐进式进化。如果说弱人工智能的威胁是人类历史上又一次新的

技术威胁，那么人工智能生命的威胁则在于生命演化史上首次可能出现类人类和后人类生命，这

改变了人类在生命演化史上的价值和意义。后人类生命的出现，迫使我们不得不重新审视人类的

生命观和价值观，在人类视角和生命共同体视角之间保持必要的张力。

关键词：人工智能；生命；演化；伦理考量

基金项目：国家社会科学基金青年项目“认知科学哲学视域下的人工共情问题研究”（项目编

号:21CZX020)

中图分类号：Q111；TP242.6文献标识码：A文章编号：1003-854X（2024）02-0053-08

作为一个在地球上生存和繁衍了数百万年的物智能（StrongAI）和弱人工智能（WeakAI）、专

种，人类在历史上遇到过的挑战数不胜数，而人工用人工智能（Special-purposeAI）和通用人工智能

智能则是我们遇到的必威体育精装版挑战。自从被发明（现）的区分。其中，专

以来，我们对人工智能的关注不仅在于它是一种什用人工智能（专司某一特定领域工作）和通用人工

么技术，在新的科技革命中起什么作用，而且还关智能（像人类那样能胜任各种任务）的区分歧义不

注另外一个问题，那就是它将会如何发展和演变，大，但强弱人工智能的区分标准不尽相同。现有强

能否从弱人工智能演化为强人工智能，从人类的技人工智能和弱人工智能的区分是在认识论或认知主

术手段演变为具有自我意识和生存意志的生命体。义范围内展开的，主要依据是感知和计算能力的大

如果人工的智能生命最终成为了生命演化史上又一小。问题是，仅从认识论或认知主义角度能不能真

种生命形式，那么，这种新的生命会以什么方式演正切中人工智能的本质，有无其他分类方法？

变，会给人类带来何种风险，人类又该如何调整自人工智能如何分类还得从其概念人手。如何理

已的生命观和伦理准则，这些都是需要认真思考的解人工智能，难点不在“人工”而在“智能”。何

问题。谓智能，既有传统研究的回答，也有当今主流研究

的回答。传统人工智能研究者通常被称作是认知主

一、存在论层面的人工智能分类：技术义者，他们认为所谓智能是实现现实目标的计算能

手段与人工智能生命力，无论是学习、记忆还是情感，认知的所有方面

都是可以由计算机（器）来执行的。“经典的人工

如何区分不同类型的人工智能（Artificial智能研究方法围绕一整套研究的原理和实践展开，

Intelligence），这是人工智能研究的一个基础性理这些原理和实践主要探究认知主义的正确性，尤其

论问题。现有分类中最重要、最流行的是强人工是以纽厄尔和西蒙提出的物理符号系统假说为研究

2024.2153

对象。”①在认知主义者眼中，认知最佳的理解是智能，它就不得不服务于生命体的生存。然而，现

对符号结构的