神经网络讲解与实例-1.ppt

人工神经网络 (Artificial Neural Netwroks -----ANN)  人工神经网络的基本特点 （1）可处理非线性 1.3.2 BP网络 BP网络主要用于 1）函数逼近：用输入向量和相应的输出向量训练一个网络逼近一个函数。 2）模式识别：用一个特定的输出向量将它与输入向量联系起来。 3）分类：把输入向量 以所定义的合适方式进行分类。 4）数据压缩：减少输出向量维数以便于传输或存储。 3．应用之例：蚊子的分类 输入数据有15个，即 , p=1,…,15; j=1, 2; 对应15个输出。 建模：（输入层，中间层，输出层，每层的元素应取多少个？） 建立神经网络 规定目标为： 当t(1)=0.9 时表示属于Apf类，t(2)=0.1表示属于Af类。 设两个权重系数矩阵为： 令p=0 （3）计算 (6) p=p+1，转（2） 即网络模型的解为： 分析如下： 为第一层的输出，同时作为第二层的输入。 其中， 为阈值， 为激励函数 若令 （作为一固定输入） （阈值作为固定输入神经元相应的权系数） 则有： 取激励函数为 = 则 同样，取 （1）随机给出两个权矩阵的初值；例如用MATLAB软件时可以用以下语句： 具体算法如下： =rand(2,3); =rand(1,3); (2) 根据输入数据利用公式算出网络的输出 = 取 因为 所以 （4）取 （或其他正数，可调整大小） (5) 计算 和 j=1,2,3, i=1,2,3, 计算 j=1,2,3 j=1,2,3 注：仅计算一圈（p=1，2，…，15）是不够的，直到当各权重变化很小时停止，本例中，共计算了147圈，迭代了2205次。 最后结果是： = 4.BP网络建模特点： 非线性映照能力：神经网络能以任意精度逼近任何非线性连续函数。在建模过程中的许多问题正是具有高度的非线性。 并行分布处理方式：在神经网络中信息是分布储存和并行处理的，这使它具有很强的容错性和很快的处理速度。 自学习和自适应能力：神经网络在训练时，能从输入、输出的数据中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。 数据融合的能力：神经网络可以同时处理定量信息和定性信息，因此它可以利用传统的工程技术（数值运算）和人工智能技术（符号处理）。 多变量系统：神经网络的输入和输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式，不必考虑各子系统间的解耦问题。 * * 5.BP神经网络的设计分析 1、产生数据样本集 包括原始数据的收集、数据分析、变量选择以及数据的预处理 首先要在大量的原始测量数据中确定出最主要的输入模式。 在确定了最重要的输入量后，需进行尺度变换和预处理。 尺度变换常常将它们变换到[-1,1]或[0,1]的范围。 在进行尺度变换前必须先检查是否存在异常点（或称野点），这些点必须删除。 通过对数据的预处理分析还可以检验其是否存在周期性、固定变换趋势或其它关系。 对数据的预处理就是要使得经变换后的数据对于神经网络更容易学习和训练。 * * 对于一个问题应该选择多少数据，这也是一个很关键的问题。 系统的输入输出关系就包含在数据样本中。一般来说，取的数据越多，学习和训练的结果便越能正确反映输入输出关系。 但选太多的数据将增加收集、分析数据以及网络训练付出的代价 选太少的数据则可能得不到正确的结果。 事实上数据的多数取决于许多因素，如网络的大小、网络测试的需要以及输入输出的分布等。 其中网络的大小最关键。通常较大的网络需要较多的训练数据。一个经验规则是：训练模式应是连接权总数的5至10倍。 * * 最简单的方法是：将收集到的可用数据随机地分成两部分，比如其中三分之二用于网络的训练。另外三分之一用于将来的测试。随机选取的目的是为了尽量减小这两部分数据的相关性。 影响数据大小的另一个因素是输入模式和输出结果的分布，对数据预先加以分类可以减小所需的数据量。相反，数据稀薄不匀甚至覆盖则势必要增加数据量。 在神经网络训练完成后，需要有另外的测试数据来对网络加以检验，测试数据应是独立的数据集合。 * * 2、确定网络的类型和结构 神经网络的类型很多，需根据问题的性质和任务的要求来合适地选择网络类型。 一般从已有的网络类型中选用一种比较简单而又能满足要求的网络，新设计一个网络类型来满足问题的要求往往比较困难。 若主要用于模式分类，尤其是线性可分的情况，则可采用较为简单的感知器网络。 若主要用于函数估计，则可应用BP网络 在网络的类型确定后，要是选择网络的结构和参数。 以BP网络为例，需