[理学]22 单层感知器模型与学习算法.ppt

2.2感知器神经网络模型与学习算法 2.2.1单层感知器 概述 由美国学者Rosenblatt在1957年首次提出 学习算法是Rosenblatt在1958年提出的 包含一个突触权值可调的神经元 属于前向神经网络类型 只能区分线性可分的模式 IEEE设立以其名字命名的奖项 2.2.1单层感知器 单层感知器模型 2.2.1单层感知器 2.2.1单层感知器 单层感知器工作原理 对于只有两个输入的判别边界是直线（如下式所示）,选择合适的学习算法可训练出满意的 和 ，当它用于两类模式的分类时，相当于在高维样本空间中，用一个超平面将两类样本分开。 2.2.2单层感知器的学习算法 单层感知器学习算法思想 基于迭代的思想，通常是采用误差校正学习规则的学习算法。 可以将偏置作为神经元权值向量的第一个分量加到权值向量中,也可以设其值为0 输入向量和权值向量可分别写成如下的形式： 令上式等于零，可得到在维空间的单层感知器的判别超平面。 2.2.2单层感知器的学习算法 单层感知器学习算法 第一步,设置变量和参量。 为激活函数, 为网络实际输出， 为期望输出， 为学习速率， 为迭代次数， 为实际输出与期望输出的误差。 第二步,初始化 给权值向量 的各个分量赋一个较小的随机非零值，置 第三步,输入一组样本 ，并给出 它的期望输出 。 第四步,计算实际输出: 第五步,求出期望输出和实际输出求出差 根据误差判断目前输出是否满足条件，一般为对所有样本误差为零或者均小于预设的值，则算法结束，否则将值增加1，并用下式调整权值： 然后转到第三步，进入下一轮计算过程 2.2.2单层感知器的学习算法 2.2.2单层感知器的学习算法 确定权值和阈值 2.2.2单层感知器的学习算法 设阈值为0.6，初始权值均为0.1，学习率为0.5，误差值要求为0，神经元的激活函数为硬限幅函数，求权值w1与w2 对于样本1，输出神经元的输入为： 输出神经元的输出为： 2.2.2单层感知器的学习算法 权值调整 样本2与3同样本1，因输出为0省略 对于样本4，输出神经元的输入为： 2.2.2单层感知器的学习算法 输出神经元的输出为： 权值调整： 2.2.2单层感知器的学习算法 此时完成一次循环过程，由于误差没有达到0，返回第2步继续循环，在第二次循环中，前三个样本输入时因误差均为0，所以没有对权值进行调整，各权值仍保持第一次循环的最后值，第四个样本输入时各参数值如下： 2.2.2单层感知器的学习算法 2.2.2单层感知器的学习算法 计算误差时，对所有的样本，网络的输出误差均为0，达到预定的要求，训练结束 2.2.3 单层感知器的MATLAB实现 MATLAB中单层感知器常用工具函数名称和基本功能 2.2.3 单层感知器的MATLAB实现 newp() 功能：创建一个感知器神经网络的函数 格式：net = newp(PR，S，TF，LF) 说明：net为生成的感知机神经网络；PR为一个R×2的矩阵，由R组输入向量中的最大值和最小值组成；S表示神经元的个数；TF表示感知器的激活函数，缺省值为硬限幅激活函数hardlim；LF表示网络的学习函数，缺省值为learnp hardlim() 功能 硬限幅激活函数 格式 A = hardlim(N) 说明 函数hardlim(N)在给定网络的输入矢量矩阵N时，返回该层的输出矢量矩阵A。当N中的元素大于等于零时，返回的值为l；否则为0。也就是说，如果网络的输入达到阈值，则硬限幅传输函数的输出为1；否则，为0。 learnp() 功能 感知机的权值和阈值学习函数 2.2.3 单层感知器的MATLAB实现 train() 功能 神经网络训练函数 格式 [net，tr，Y，E，Pf，Af] = train(NET，P，T，Pi，Ai，VV，TV) 说明 net为训练后的网络；tr为训练记录；Y为网络输出矢量；E为误差矢量；Pf为训练终止时的输入延迟状态；Af为训练终止时的层延迟状态；NET为训练前的网络；P为网络的输入向量矩阵；T表示网络的目标矩阵，缺省值为0；Pi表示初始输入延时，缺省值为0；Ai表示初始的层延时，缺省值为0； VV为验证矢量（可省略）；TV为测试矢量（可省略）。网络训练函数是一种通用的学习函数，训练函数重复地把一组输入向量应用到一个网络上，每次都更新网络，直到达到了某种准则，停止准则可能是达到最大的学习步数、最小的误差梯度或误差目标等。 2.2.3 单层感知器的MATLAB实现 sim() 功能 对网络进行仿真 格式 (1) [Y，Pf，Af，E，perf]