如何设计具有自主意图的人工智能体.docx

第

第71卷第6期 2018年11月Vol.71No.6Nov.2018 079～092

DOI:10.14086/j.cnki.wujss.2018.06.008

如何设计具有自主意图的人工智能体

——一项基于安斯康“意图”哲学的跨学科探索

徐英瑾

摘要具有自主意图、只依赖小数据运作的通用人工智能系统的出现，并不会像有些人所预估的那样导致“机器奴役人类”的局面出现，因为此类技术对于小数据的容忍可以大大增加此类技术的潜在用户的数量，并使得体现不同用户价值观的通用人工智能系统能够大量出现。这样一来，具有不同意图的通用人工智能系统彼此之间的对冲效应，最终会使得任何一种具有特定意图的通用人工智能系统都无法占据主宰地位。相反，由于作为专用人工智能技术代表的深度学习技术的运用在原则上就需要大量数据的喂入，其对于民众隐私权的侵犯就成为一种难以被全面遏制的常态，因此，此类技术的发展在原则上就会加强一部分技术权贵对于大多数民众的统治地位。不过，要在通用人工智能系统里实现对于意图的工程学建模，就需要我们在哲学层面上首先厘清关于意图的种种哲学迷思。在这个问题上，美国女哲学家安斯康的意图理论是一个比较好的讨论起点。具体而言，安斯康关于“意图是在欲望驱使下做某事的理由”的观点，是可以在通用人工智能的语境中被实现的，但是她关于信念与意图之二元对立的观点，却在不少地方有失偏颇。而“非公理化推理系统”（纳思系统），则将为吸纳安斯康意图论的合理部分提供相应的工程学手段。

关键词通用人工智能；非公理化推理系统；纳思系统；深度学习；公众隐私；安斯康

中图分类号B222；B84文献标识码A文章编号1672-7320(2018)06-0079-14

基金项目国家社会科学基金重大项目（15ZDB020）；国家社会科学基金一般项目（13BZX023）

一、从“人工智能是否会奴役人类”谈起

随着近几年以来人工智能技术在工程学层面上的不断进步，关于“人工智能是否会在未来统治人类”的担忧，也日渐被人提起。但在笔者看来，这个问题本身已经包含了诸多语言混乱。如果不预先对这些混乱加以厘清，我们将很难对这一问题作出严肃的应答。具体而言，该问题所涉及的第一重语言歧义即：这里所说的“人工智能”究竟是指专用人工智能（即只能用于特定工作目的的人工智能系统），还是通用人工智能（即能够像人类那样灵活从事各种工作的人工智能系统）？有人或许会说，抓住这一点歧义不放乃是小题大做，因为所谓通用人工智能技术，无非就是既有的专用人工智能技术的集成。但持此论者却没有意识到如下三个问题：

（甲）就既有专业人工智能技术中发展最快的深度学习系统而言，此类系统的运作其实是需要大量的数据输入为其前提的。因此，深度学习系统并不具备根据少量数据进行有效推理的能力——换言之，

·PAGE

·PAGE80·

武汉大学学报（哲学社会科学版）2018年第6期

·PAGE

·PAGE81·

徐英瑾：如何设计具有自主意图的人工智能体

它们缺乏“举一反三”的智能，尽管这种智能乃是任何一种理想的通用人工智能系统所不可或缺的。不得不提到的是，在“迁移学习”这一名目下，目前不少深度学习研究者都在研究如何将在一个深度学习网络中已经获得的网络权重分布“迁移”到一个新的网络中去。这姑且可以被视为某种最初步的“举一反三”。然而，这种意义上的迁移学习必须预设深度学习网络所从事的新任务与旧任务之间有足够的相似性，而无法模拟人类在非常不同的领域（如“孙子兵法”与商业活动）之间建立起类比推理关系的能力。

（乙）现有的深度学习架构都是以特定任务为导向的，而这些任务导向所导致的系统功能区分，既不与人类大脑的自然分区相符合（譬如，我们人类的大脑显然没有一个分区是专门用于下围棋的，而专门用于下围棋的“阿尔法狗”系统的内部结构则是为下围棋量身定做的），也缺乏彼此转换与沟通的一般机制。因此，深度学习系统自身架构若非经历革命性的改造，其自身是缺乏进阶为通用人工智能系统的潜力的。

（丙）目前真正从事通用人工智能研究的学术队伍，在全世界不过几百人，这与专业人工智能研究的庞大队伍相比，可谓九牛一毛?。

有鉴于特定技术流派的发展速度往往与从事该技术流派研究的人数成正比关系，所以，除非有证据证明通用人工智能的研究队伍会立即得到迅速扩充，否则我们就很难相信：通用人工智能研究在不久的将来就会取代专用人工智能研究，迅速成为人工智能研究的主流。而这一点又从另一个侧面印证了专用人工智能与通用人工智能之间的差异性。

除了上述差异性之外，“人工智能是否会在未来统治人类”？这个问题包含的另一重歧义便是：此问中作为宾语而出现的“人类”，究竟是指“智人”这个生物学概念所指涉的所有个体，还是某一类特定人群，如城市中产阶