前馈神经网络.pptxVIP

前馈神经网络第1页/共40页 23 前馈神经网络3.1单层感知器3.1.1感知器模型净输入：(3.1)输出：(3.2)ojx1-1xn…第2页/共40页 33 前馈神经网络3.1单层感知器3.1.2感知器的功能(1)设输入向量X=(x1 ,x2)T输出：则由方程 w1jx1+w2jx2-Tj=0 (3.3)确定了二维平面上的一条分界线。ojx1-1x2单计算节点感知器第3页/共40页 43 前馈神经网络3.1单层感知器3.1.2感知器的功能第4页/共40页 53 前馈神经网络3.1单层感知器3.1.2感知器的功能(2)设输入向量X=(x1,x2,x3)T输出：则由方程 w1jx1+w2jx2+w3j x3–Tj=0 (3.4) 确定了三维空间上的一个分界平面。 x2ojx1x3-1第5页/共40页 63 前馈神经网络3.1单层感知器3.1.2感知器的功能第6页/共40页 73 前馈神经网络3.1单层感知器3.1.2感知器的功能(3) 设输入向量X=(x1，x2,…，xn)T则由方程 w1jx1+w2jx2+…+wnj xn–Tj=0 (3.6) 确定了n维空间上的一个分界平面。 输出：sgn(w1jx1+w2jx2+…+wnjxn –Tj) (3.5)第7页/共40页 83 前馈神经网络3.1单层感知器3.1.2感知器的功能 一个最简单的单计算节点感知器具有分类功能。其分类原理是将分类知识存储于感知器的权向量（包含了阈值）中，由权向量确定的分类判决界面将输入模式分为两类。第8页/共40页 9例一 用感知器实现逻辑“与”功能。x1 x2 y0 0 00 1 01 0 01 1 1逻辑“与”真值表感知器结构w1x1+w2x2 -T=0 0.5x1+0.5x2-0.75=0第9页/共40页 10例一 用感知器实现逻辑“与”功能。第10页/共40页 11例二 用感知器实现逻辑“或”功能。x1 x2 y0 0 00 1 11 0 11 1 1逻辑“或”真值表感知器结构w1x1+w2x2 -T=0 x1+x2-0.5=0第11页/共40页 12例二 用感知器实现逻辑“或”功能。第12页/共40页 133 前馈神经网络3.1单层感知器3.1.3感知器的局限性问题：能否用感知器实现“异或”功能？“异或”的真值表x1 x2 y 0 0 0 0 1 1 1 0 1 1 1 0第13页/共40页 143 前馈神经网络3.1单层感知器3.1.4感知器的学习算法感知器学习规则的训练步骤：(1) 对各权值w0j(0),w1j(0),┄,wnj(0)，j=1, 2,┄,m （m为计算层的节点数）赋予较小的非零随机数；(2) 输入样本对{Xp,dp}，其中Xp=(-1,x1p,x2p,┄,xnp)， dp为期望的输出向量（教师信号），上标p代表 样本对的模式序号，设样本集中的样本总数为P， 则p=1,2,┄,P；第14页/共40页 153 前馈神经网络3.1单层感知器3.1.4感知器的学习算法感知器学习规则的训练步骤：(3)计算各节点的实际输出 ojp(t)=sgn[WjT(t)Xp], j=1,2,...,m；(4)调整各节点对应的权值，Wj(t+1)= Wj(t)+η[djp-ojp(t)]Xp, j=1, 2,┄,m, 其中为学习率，用于控制调整速度，太大 会影响训练的稳定性，太小则使训练的收敛速度变慢， 一般取0＜η≤1；(5)返回到步骤(2)输入下一对样本，周而复始直到对所有 样本，感知器的实际输出与期望输出相等。第15页/共40页 163 前馈神经网络3.1单层感知器3.1.4感知器的学习算法例三 单计算节点感知器，3个输入。给定3对训练样本对如下：X1 = (-1，1，-2，0)T d1 = ?1 X2 = (-1，0，1.5，-0.5)T d2 = ? 1X3 = (-1，-1，1，0.5)T d3 =1 设初始权向量W(0)=(0.5,1,-1,0)T，η=0.1。注意，输入向量中第一个分量 x0 恒等于-1，权向量中第一个分量为阈值，试根据以上学习规则训练该感知器。第16页/共40页 173 前馈神经网络3.1单层感知器3.1.4感知器的学习算法解：第一步 输入X1，得 WT(0)X1=(0.5,1,-1,0)(-1,1,-2,0)T=2.5 o1(0)=sgn(2.5)=1 W(1)= W(0)+η[d1- o1(0)] X1 =(