智能控制理论及应用课件作者王耀南孙炜第4章节神经网络基本理论.ppt

第四章 神经网络基本理论 4.1 人工神经元模型 4.1 人工神经元模型 4.1 人工神经元模型 4.1 人工神经元模型 4.1 人工神经元模型 4.2 神经网络的定义和特点 4.3 感知器模型 4.3 感知器模型 4.3 感知器模型 4.4 神经网络的构成和分类 4.4 神经网络的构成和分类 4.4 神经网络的构成和分类 4.4 神经网络的构成和分类 4.4 多层前向BP神经网络 4.4 多层前向BP神经网络 4.4 多层前向BP神经网络 4.4 多层前向BP神经网络 4.4 多层前向BP神经网络 4.4 多层前向BP神经网络 4.5 大脑自组织神经网络 4.5 大脑自组织神经网络 4.5 大脑自组织神经网络 4.5 大脑自组织神经网络 4.5 大脑自组织神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.6 小脑神经网络 4.7 模糊神经网络 2. 多模式训练情况 1 0 0 0 1 0 0 0 1 Input= 训练结果： 0.0000 0.0000 1.0000 1.0000 1.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 1.0000 1.0000 1.0000 1.0000 1.0000 1.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 W＝ 网络输出： Output=Input*W= 0.0000 0.0000 1.0000 1.0000 1.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 1.0000 1.0000 1.0000 1.0000 1.0000 1.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 模式1 模式2 模式3 模式2 模式1 模式3 模式1 模式2 模式3 小脑模型关节控制器（CMAC）是由Albus最初于1975年基于神经生理学提出的，它是一种基于局部逼近的简单快速的神经网络，能够学习任意多维非线性映射, 迄今已广泛用于许多领域。 CMAC具有优点： 具有局部逼近能力，每次修正的权值极少，学习速度快，适合于在线学习； 一定的泛化能力，相近输入给出相近输出，不同输入给出不同输出； CMAC的原理 CMAC是一种模仿人类小脑的学习结构。在这种技术里，每个状态变量被量化并且输入空间被划分成离散状态。量化的输入构成的向量指定了一个离散状态并且被用于产生地址来激活联想单元中存储的联想强度从而恢复这个状态的信息。 对于输入空间大的情况，联想单元数量巨大，为了节省存储空间，Albus提出了hash编码，将联想强度存于数量大大少于联想单元的hash单元中，联想单元中只存储hash单元的散列地址编码 CMAC的空间划分和量化机制 超立方体 联想单元 “块” CMAC学习的数学推导 1)无hash映射的CMAC 在CMAC中，每个量化的状态对应Ne个联想单元。假设Nh是总的联想单元的数量，该数量与没有hash映射时的物理存储空间大小一致。用CMAC技术，第s个状态对应的输出数据ys可以被表示为： 式中W是代表存储内容（联想强度）的向量，Cs是存储单元激活向量，该向量包含Ne个1。在决定了空间的划分方式后，对于指定的状态，单元激活向量Cs也随之确定。 2)有hash映射的CMAC hash映射将几个联想单元和一个物理存储位置(hash单元)相对应。hash单元中存储联想强度，而此时的联想单元是虚拟的存储空间，只存储hash单元的散列地址编码。有hash映射的CMAC特别适用于存储空间小于超立方体数量时的情况。用有hash映射的CMAC技术，第s个状态对应的输出数据ys可以被表示为： 式中Mp是hash单元的数量，它小于联想单元数Nh。hij=1表示联想单元i激活hash单元j。由于每个联想单元仅仅和一个hash单元相对应，所以hash矩阵H的每一行仅有一个单元等于1，其余的都等于