人工神经网络1第1,2章.pptxVIP

人工神经网络1第1,2章第1页/共57页 2第2页/共57页 3 ——第i个神经元接收到的第j个神经元送入的信号（二值量） —— 突触强度（第j个神经元与第i个神经元连接的权值）固定值 ——第i个神经元的阈值净输入：如果考虑输入至输出的延时作用（动态），表达式可修正为：第3页/共57页 4 以上M-P模型只允许在二进制状态离散时间下操作，并且假设权值和阈值固定不变。因此，它是最古老的神经元模型。2、通用的神经元模型 1 一个静态的神经元模型f（.）y神经元处理节点I第4页/共57页 53、常用的功能函数（1）线性函数 (3) s函数（又称sigmoid函数） (2)硬限幅函数（包括符号函数） f(u)uu10fh(u)+1-10u10、5u00fs(u)第5页/共57页 6 注： 是单调上升函数，而且必须是有界函数。因为细胞传递的信号不可能是无限增加，必有最大值。§ 1、5 人工神经网络的基本结构、工作方式、学习（训练）及它的基本功能一、网络的基本结构1、单层前向网络Q0 Qi Qm－1 。 。 … 。 … 。… …ω00ω01ω0jω0,,N-1ωijωm-1,0ωm-1,N-1 第6页/共57页 7a、对第i个神经元而言b、对整个网络而言第7页/共57页 82、多层前向网络（由单层级联而成） 。 。 … 。 … … … …输出层隐含层（一般1～2层）输入层输入节点层（零层）第8页/共57页 9注1：构成多层网络时，各层间的功能函数 应是非 线性的，否则再多层的功能只能相当于一层。设：两层网络，功能函数 是线性的。将阈值放入X中，第9页/共57页 103、反馈网络输入输出ijωij ＝ωji 第10页/共57页 11注2：前向网络主要是函数映射。可用于模式识别和函数逼近和分类。反馈网络按对能量函数的极小点的利用来分类。有两种：（1）主要用作各种联想存储器 （2）主要用于求解最优化问题 二、工作方式及学习（训练）1、工作方式 主要分两个阶段： 第一个阶段是学习期，此时各计算单元状态不变，各连线上的权值可通过学习来修改。（记忆） 第二个阶段 是工作期，此时各连接权固定，计算单元状态变化，以达到某种稳定状态。（分类、识别、逼近、聚类、等）2、学习（训练）（1）学习方式：（a）有监督的学习（有导师的学习）：在学习开始前，要提供由已知输入向量和应该输出变量所构成的“样本对”集——（导师）。该类学习多用为函数逼近、分类和模式识别等。（b ）无监督的学习：学习开始前，只提供由已知输入向量所构成的“样本”集（训练集）。该类学习多用为聚类。第11页/共57页 12样本对集W输出调整导师实际响应误差信号E－＋应有的响应训练集W（自动调节）输出图1 有监督学习的ANN图2 无监督学习的ANN第12页/共57页 13(2) 学习算法（学习规则）a、误差修正法或叫 规则（有导师的学习）举例：被训练网络中的第i个神经元 Ⅰ：首先随机设置初始权重值 Ⅱ：t时刻加入样本矢量 当输入矢量第j个元素是 时， “ 导 师”期望输出为 而实际输出 产生误差为 Ⅲ： t时刻调整 的规则为： i ωi0 ω