2016模式识别系列实验教程.pptx

模式识别系列实验;模式识别系列实验;由美国学者Rosenblatt在1957年首次提出 具有一层神经元 采用阈值激活函数的前向网络 只能区分线性可分的模式 ;一、感知器;单层感知器可将外部输入分为两类。 当感知器的输出为+1时，输入属于 类， 当感知器的输出为-1时，输入属于 类。;对于只有两个输入的判别边界是直线、 选择合适的学习算法可训练出满意的 和 ，当它用于两类模式的分类时，相当于在高维样本空间中，用一个超平面将两类样本分开。 ;单层感知器常用工具函数名称和基本功能 ;单层感知器的MATLAB实现;单层感知器的MATLAB实现;单层感知器的MATLAB实现;单层感知器的MATLAB实现;单层感知器的MATLAB实现步骤;训练过程;单层感知器的MATLAB实现;单层感知器的MATLAB实现;单层感知器的MATLAB实现;单层感知器的MATLAB实现;多层感知器 ;一、对实验过程的要求：编程实现w1，w2类以及w2，w3类的分类 w1=[.1 6.8 -3.5 2.0 4.1 3.1 -0.8 0.9 5.0 3.9; 1.1 7.1 -4.1 2.7 2.8 5.0 -1.3 1.2 6.4 4.0]; w2=[7.1 -1.4 4.5 6.3 4.2 1.4 2.4 2.5 8.4 4.1;4.2 -4.3 0.0 1.6 1.9 -3.2 -4.0 -6.1 3.7 -2.2]; w3=[-3.0 0.5 2.9 -0.1 -0.4 -1.3 -3.4 1 -5.1 1.9; -2.9 8.7 2.1 5.2 2.2 3.7 6.2 3.4 1.6 5.1]; w4=[-2.0 -8.9 -4.2 -8.5 -6.7 -0.5 -6.7 -8.7 -7.1 -9.0；-8.4 0.2 -7.7 -3.2 -4.0 -9.2 -6.7 -6.4 -9.7 -6.3 ];二、BP神经网络;三层BP网络;学习的过程： 神经网络在外界输入样本的刺激下不断改变网络的连接权值,以使网络的输出不断地接近期望的输出。 学习的本质： 对各连接权值的动态调整 学习规则： 权值调整规则，即在学习过程中网络中各神经元的连接权变化所依据的一定的调整规则。 ;学习的类型：有导师学习 核心思想： 将输出误差以某种形式通过隐层向输入层逐层反传 学习的过程： 信号的正向传播 误差的反向传播;正向传播： 输入样本－－－输入层－－－各隐层－－－输出层 判断是否转入反向传播阶段： 若输出层的实际输出与期望的输出（教师信号）不符 误差反传 误差以某种形式在各层表示－－－－修正各层单元的权值 网络输出的误差减少到可接受的程度 进行到预先设定的学习次数为止;神经网络发展历史;MATLAB中BP神经网络的重要函数和基本功能 ;MATLAB中BP神经网络的重要函数和基本功能 newff() 功能 建立一个前向BP网络 格式 net = newff(PR，[S1 S2...SN1]，{TF1 TF2...TFN1}，BTF，BLF，PF) 说明 net为创建的新BP神经网络；PR为网络输入取向量取值范围的矩阵；[S1 S2…SNl]表示网络隐含层和输出层神经元的个数；{TFl TF2…TFN1}表示网络隐含层和输出层的传输函数，默认为‘tansig’；BTF表示网络的训练函数，默认为‘trainlm’；BLF表示网络的权值学习函数，默认为‘learngdm’；PF表示性能数，默认为‘mse’。 ;MATLAB中BP神经网络的重要函数和基本功能 tansig() 功能 正切sigmoid激活函数 格式 a = tansig(n) 说明 双曲正切Sigmoid函数把神经元的输入范围从(-∞，+∞)映射到(-1，1)。它是可导函数，适用于BP训练的神经元。 logsig() 功能 对数Sigmoid激活函数 格式 a = logsig(N) 说明对数Sigmoid函数把神经元的输入范围从(-∞，+∞)映射到(0，1)。它是可导函数，适用于BP训练的神经元。;实验二：BP网络学习与分类;三、聚类分析; 聚类分析之关键： 什么叫做两个样本的相似？——相似性测度 相似的度量如何评价？——聚类准则 两个样本相似到什么程度归为一类？——聚类算法 ;相似性测度：用于度量样本之间的相似性及其差异。 常用的方法： 明考斯基距离（ Minkowski distance） ;常用的方法： 当q = 1时, d 称为曼哈坦距离（ Manhattan distance） 当q=2时，d 就成为欧几里德距离: ;常用的方法： 角度相似性度量函数： 可以认为是两个单位向量 ， 之内积，