第04章_2_基于人工神经网络的知识获取方法剖析.ppt

Company Logo 基于人工神经网络的知识获取方法 目录 1. 简介 2. 通过学习获取知识 3. 基于神经网络的知识求精 4. 从神经网络中提取规则 5.总结 Company Logo 1.简介 专家系统的力量在于它所拥有的知识，这些知识使它能在专家水平上工作和解决问题。但是知识不易获取。 因为很多知识只有专家本人才拥有，而专家可能比较忙、可能不合作、可能难于解释他自己在解决问题的思考过程中究竟使用了那些知识，所以知识获取被认为是构造专家系统中最困难的步骤。 专家有时候也会出错，误导知识工程师，使专家系统获取的知识出错。 人工神经网络是一种大规模并行分布处理的系统，具有自组织、自学习和自适应的特点，在只能系统中可用于自动知识获取。 目录 1. 简介 2. 通过学习获取知识 3. 基于神经网络的知识求精 4. 从神经网络中提取规则 5.总结 Company Logo 2.通过学习获取知识 神经网络通过学习训练实现知识获取 首先应根据应用问题选择并确定神经网络的模型和结构，再选择学习算法，对与求解问题有关的样本进行学习。通过学习调整神经网络的联接权值，完成知识的自动获取。 关于神经网络模型的选取，可以是自组织神经网络模型，也可以是多层前馈神经网络模型 前者根据学习算法和训练样本确定神经网络的权值，后者在学习过程中对整个训练样本集，根据神经网络的实际输出模式与期望输出模式的误差调整网络的权值，直到误差的均方小于某一预订的极小值，网络达到稳定为止。 Company Logo 2.通过学习获取知识 目前，在知识获取中最常用的神经网络模型是采用BP算法的多层前馈神经网络 由输入层、隐含层和输出成构成，其中隐含层可以有一层或多层，相邻层的神经元之间相互联接，但同一层的神经元之间并不相联。输入信号从输入层经隐含层向前传播到输出成，成为输出信号。 Company Logo 2.通过学习获取知识 经典的多层前馈神经网络学习算法由Rumelhart等人于1986年提出的反向传播（Back Propagation，BP）算法，故这种神经网络也常成为BP神经网络。 BP算法采用非线性优化中的梯度下降法来对网络权值优化，在进行知识获取中取得了一些成果，但是也存在一些问题，如学习时间较长、难以确定合适的网络结构等。 解决这个问题的途径是采用一些收敛速度快的改进BP算法或结构学习算法等。 目录 1. 简介 2. 通过学习获取知识 3. 基于神经网络的知识求精 4. 从神经网络中提取规则 5.总结 Company Logo 3.基于神经网络的知识求精 知识求精是知识获取的必不可少的步骤。 一般来说，得到的初始知识库常常有些问题，比如知识不完全、知识之间不一致、有的知识不正确等，因此需要调试、修改和补充。 实践证明，初始知识库求精后可以显著地提高专家系统的运行性能，比如利用知识求精系统SEEK2对风湿病诊断专家系统EXPERT的知识库求精后，其诊断正确率提高了21.2%——知识求精收到专家系统研制者的极大重视。 Company Logo 3.基于神经网络的知识求精 将人工神经网络用于知识求精取得的一些进展： 1990年，Towell和Shavlik提出了用于知识求精的基于知识的人工神经网络(Knowledge Based Artificial Neural Network，简称KBANN)，并通过实例证明基于KBANN的知识求精方法比纯符号求精系统要好。 1993年，Fu提出了与KBANN类似的KBCNN(Knowledge Based Conceptual Neural Network)用于知识求精。 Company Logo 3.基于神经网络的知识求精 一般来说，知识求精问题是指： 已知：(1)初始知识库(指规则集)；(2)专家例证。 求解：用已知例证检测初始知识库，并对它进行修改、删除和补充，使加工后的知识库达到预期的运行性能。 Company Logo 3.基于神经网络的知识求精 基于神经网络的知识求精方法流程： 图中的初始规则集即初始知识库、训练样本即专家例证。 它由三个步骤组成： 1.转化：将初始规则集转化为初始神经网络； 2.训练：用训练样本和学习算法训练初始神经网络，即知识求精过程； 3.提取规则：提取求精后的规则知识。 Company Logo 基于神经网络的知识求精方法步骤 第一步：初始规则集转化为神经网络，一般通过以下映射关系： 1.最终结论-输出节点；2.支持的事实-输入节点；3.中间结论-隐含节点；4.依赖关系-联接权值和阈值。 通过上述映射关系，可以将知识库中的待求精知识转化为初始神经网络。但是，用来构造神经网络的规则必须满足：无谓词运算变量