第7-1章-人工神经网络课件.pptVIP

第7 章 计算智能 人工神经网络 遗传算法 蚂蚁算法 专家系统 本节主要内容 人工神经网络的生物学基础 人工神经元 人工神经网络基本模型 人工神经网络求解TSP 人工神经网络系统源于人脑神经网络。了解人脑神经网络的组成和原理，有助于对人工神经网络的理解。(1)人脑神经结构 1）1011-12个神经元/人脑 2）104个连接/神经元 3）神经元间传递信号 （2）生物神经元 1）神经元构成： 细胞体：直径在5至100微米，含细胞核，细胞质和细胞膜； 轴 突：是细胞体伸出的最长一条分支(细胞的输出)； 树 突：是细胞体伸出的较短的树状分支(细胞的输入)； 突 触：是神经元之间连接的接口。 2）神经元的工作机制 神经元与神经纤维构成的神经组织具有两种基本特性，即兴奋与传导。当神经元的某一部分受到某种刺激时，在受刺激的部位就产生兴奋。当这种兴奋达到一定程度（阈值）就会沿着神经元扩散开来，并在一定的条件下通过突触传达到相连的神经细胞。 （3）人脑的工作机制 突触前的活动不直接引起突触后成分的活动，突触的信息传递只能由突触前到突触后，不存在反向活动的机制。因此突触传递是单方向的。根据突触后电位的反应，将突触分为两种：兴奋性突触和抑制性突触。 3）脑神经信息活动的特征 巨量并行性。 信息处理和存储单元结合在一起。 自组织自学习功能。 7.1.2 人工神经元 (1)模型（MP模型） MP模型属于一种阈值元件模型，它是由美国Mc Culloch和Pitts提出的最早神经元模型之一。MP模型是大多数神经网络模型的基础。 wij ——代表神经元i与神经元j之间的连接强度（连接权）； Ui ——代表神经元i的活跃值，即神经元状态； Vj ——代表神经元j的输出，即是神经元i的一个输入； Θi ——代表神经元i的阈值。 如果把阈值θi看作为一个特殊的权值，则可改写： 其中，w0i＝-θi，v0＝1 中函数f表达神经元的输入输出特性，称激发函数。 （2）常用激发函数 ①阶跃型 ②线性型激发函数 f(ui)=k*ui ③S型激发函数 （3）学习规则 MP模型并没有给出一个学习算法来调整神经元之间的连接权。根据需要，调整神经元连接权，才能达到学习目的。Hebb学习规则就是一个常见学习算法。 Hebb学习规则:调整神经元连接权的变化wij的原则为：若第i和第j个神经元同时处于兴奋状态，则它们之间的连接应当加强，即： Δwij＝αuivj 这一规则与“条件反射”学说一致，并已得到神经细胞学说的证实。 α是表示学习速率的比例常数。 （2）Hopfield网络模型 wji 2）特点 ①循环网络 ②Wij=wji ③Wii=0 ④激发函数f: 3)稳定性 4）权矩阵 离散网络模型是一个离散时间系统，每个神经元只有两个状态，可以用1和0来表示。由连接权值Ｗij所构成的矩阵，是一个对角线为0的对称矩阵。 即： 如： 5）神经元的状态表示 6）状态变化模式 离散型有两种工作模式： （1）串行方式，是指在任一时刻t，只有一个神经元i发生状态变化，而其余的神经元保持状态不变。 （2）并行方式，是指在任一时刻t，都有部分或全体神经元同时改变状态。 7）学习算法 ①设置互连权值。 其中， 是s样例的第i个分量，它可以为1或0，样例类别数为m，节点数为n。 ③迭代直到收敛。 式中f为阈值型激发函数。该过程一直迭代到不再改变节点的输出为止。这时各节点的输出与输入样例达到最佳匹配。否则 ④转②继续。 8)能量函数 （3）BP网络 BP网络是反向传播(Back Propagation)网络。它是一种多层前向网络，采用最小均方差学习方式。这是一种最广泛应用