人工智能的“理解困境”及其化解途径——从东西方文化的视角看.pdf

人工智能的“理解困境”及其化解

途径

∗

———从东西方文化的视角看

任晓明

摘要:近年来ꎬ机器学习建模领域得到了飞速发展ꎬ但是它在带来了巨大利益

的同时伴随着巨大的风险ꎬ人工智能的技术实现是主要的风险来源ꎮ论文从可解释人

工智能的视角ꎬ探讨如何破解其“理解困境”的途径和方法并指出ꎬ首先需要澄清诸如

智能、理解之类的基本概念ꎬ认为智能的目标不仅是对于未来的预测ꎬ而且是对世界的

理解ꎮ理解世界需要一个普适的架构ꎬ与统计相关模型相比ꎬ因果结构模型更具可解

释性ꎬ是一种“深层理解”ꎮ文章讨论了因果推理的认知框架ꎬ分析和比较它们在可解

释性方面的优势和劣势ꎬ认为倾向理论比反事实依赖理论更具可解释性ꎬ这就为破解

人工智能的“理解困境”开辟新的思路ꎮ最后指出ꎬ目前的深度学习系统虽然在预测

精度方面取得进展ꎬ但在可解释性、可理解性、公平性和可信性等方面有所欠缺ꎬ在应

对因果涌现等复杂性问题时还需要借鉴东方智慧ꎬ特别是借鉴印度正理哲学的因果

思想ꎮ

关键词:人工智能ꎻ理解困境ꎻ不确定性推理ꎻ正理哲学

中图分类号:ＴＰ１８文献标识码:Ａ文章编号:１００３－６６４４(２０２４)０４－０１７８－１５

作者任晓明ꎬ男ꎬ汉族ꎬ四川省泸州市人ꎬ哲学博士ꎬ四川大学哲学系教授、博士生

导师(四川成都１００６５)ꎮ

自从聊天机器人ＣｈａｔＧＰＴ出色的语言生成能力引起全世界关注以来ꎬ国内外掀起

了一股浪潮ꎬＧｅｍｉｎｉ、文心一言、Ｃｏｐｉｌｏｔ、ＬＬａＭＡ、ＳＯＲＡ等各种大语言模型如雨后春笋

般出现ꎬ人工智能技术突破层出不穷ꎬ赋能各行各业ꎬ推动着人工智能与数据要素成为

∗本文为２０２２年国家社会科学基金重点项目“印度正理派逻辑思想研究”(２２ＺＢＸ０１９)阶

段性成果ꎮ

１７８

人工智能的“理解困境”及其化解途径

新质生产力的典型代表ꎮ虽然人工智能在各个领域的成功应用推动了生产力的发展ꎬ

但是它在带来巨大利益的同时伴随着巨大的风险ꎮ虽然这些风险大多存在于人工智

能应用的法律、社会和政治层面ꎬ但风险的主要来源仍然是人工智能的技术实现ꎮ更

重要的是ꎬ当前的技术风险前景中充满了对人工智能社会风险和伦理问题的担忧ꎮ有

人可能会说ꎬ我们只要能够观察到模型的一组给定输入产生的一组输出即可ꎬ不需要

理解这种模型的内部工作原理ꎮ追求可解释性意义不大ꎮ因为很多系统的成功都可

以由实践来验证ꎮ为什么非得要可解释?比如ꎬ当你去打车的时候ꎬ你为什么要信任

司机?其实司机就只是一个陌生人ꎬ你根本不认识这个司机ꎬ你只是知道他是个人ꎮ

那你为什么还信任他ꎬ那是因为你认为他的大脑具有可解释性吗?还是因为你明白ꎬ

一般说来ꎬ一个训练有素而且经验丰富的司机ꎬ是大概率能够完成这个任务的ꎮ在我

们看来ꎬ这种观点是不能成立的ꎬ因为ꎬ在缺乏理解的情况下就信任这种模型可能会导

致严重的后果ꎮ例如ꎬ我们如何知道模型所预测的是不是有错?我们怎么知道这种模

型是不是可信任的?这在医疗保健等高风险领域是很重要的ꎮ如果一个训练有素的

模型有９９％的准确率ꎬ医生或病人会相信它所做的癌症预测吗?万一这个模型漏掉了

最恶性的病例是不是有很高的风险?当用于高风险决策如信用贷款、医疗诊断等行业

时ꎬ机器学习模型的可解释性就至关重要ꎮ

总之ꎬ机器学习在得到广泛应用的同时ꎬ也在许多重要领域导致了较大的风险ꎬ特

别是在自动驾驶、医疗保健、司法量刑、金融信用评分与贷款、军事机器行动等领域ꎮ

这使得可解释人工智能(ＸＡＩ)成为一项值得充分重视的研究ꎮ

一、人工智能的“理解困境”和应对之策

深度学习等学习模型本质上是“黑箱”(ＢｌａｃｋＢｏｘ)ꎬ其预测的内部机制和细微差

别是不可见的ꎬ或者说是不透明的ꎮ这就是人工智能面临的可解释性问题ꎬ包括以下

几方面:

１.算法的不透明:如何理解由大量简单模块协同工作后产生的结果ꎮ