人工智能原理及MATLAB实现 教案 第3、4章 人工神经网络、 深度学习.docx

《人工智能算法》课程教案

教学目的、要求：

1.掌握人工神经网络的基本原理

2.掌握人工神经网络的结构形式

3.了解神经网络模型的分类

4.了解人工神经网络学习算法，掌握典型的人工神经网络

5.掌握人工神经网络的matlab实战的基本技巧与方法

教学重点及难点：

重点：人工神经网络的基本原理与结构形式

难点：人工神经网络的matlab实战的基本技巧与方法

教学基本内容

教学过程设计

§3人工神经网络

§3.1人工神经网络的基本原理

ANN是在人类对其大脑神经网络认识理解的基础上，人工构造的能够实现某种功能的网络系统，它对人脑进行了简化、抽象和模拟，是大脑生物结构的数学模型。ANN由大量功能简单而具有自适应能力的信息处理单元即人工神经元按照大规模并行的方式，通过的拓扑结构连接而成。

在人工神经元系统中，其输出是通过传递函数f来完成的。传递函数的作用是控制输入对输出的激活作用，把可能的无限域变换到给定范围的输出，对输入、输出进行函数转换，以模拟生物神经元线性或非线性转移特性。f函数形式多样，它反映了神经元的线性特征，这些特征一般可分为3种类型：简单的映射关系、动态系统方程和概率统计模型。

人工神经网络具有一系列不同于其他计算方法的性质和特点：

（1）神经网络将信息分布贮存在大量的神经元中，且具有内在的知识索引功能，也即具有将大量信息存贮起来并具有以一种更为简便的方式对其访问的能力。

（2）人工神经网络能模拟人类的学习过程，并且有很强的容错能力。

（3）人工神经网络是一种非线性的处理单元。

人工神经网络涉及许多数学知识。限于篇幅，在此仅介绍最基本的数学基础知识：

(1)向量的内积与外积：

设向量V＝(v1,v2,…,vn)和矩阵W＝(w1,w2,…,wn)。向量可用两种方法来相乘，一种是称为点乘，又称内积，另一种为外积。

（2）矩阵运算与层次结构网络：

设给定一个向量V和一个矩阵W，则它们的乘积为一向量：W·V=U

这种运算又称为映射，即V被W映射成U：U=WV；若用W-1表示W的逆矩阵，则类似地有映射：V=W－1U。

§3.2人工神经网络的结构形式

人工神经网络是由一组基本处理单元通过不同的连接模式所构成。人工神经元输出信号之间通过互相连接形成网络，互相连接方式称为连接模式。目前人工神经网络模型已有上百种，均是从生物神经元抽象出的最基本生物学事实而衍生出来。基本处理单元是对生物神经元的近似仿真，因而称为人工神经元，它的主要功能是信号的输入、处理和输出。

§3.3神经网络模型分类

（1）按学习方式分类

按学习方式分为有导师学习（有监督训练）、强化学习和无导师（无监督训练）3类网络模型。

（2）按网络的活动方式分类

按网络的活动方式即按网络的学习技术，可分为确定性活动方式和随机性活动方式。

（3）按神经网络的建立原理分类

按神经网络的建立原理，可分为数学模型和认知模型。

（4）按网络的信息处理能力分类

按网络的信息处理能力可分为模型识别、模式分类、组合优化问题求解、数据聚簇与组合、数学映射逼近和联想记忆等。

§3.4人工神经网络学习算法

人工神经网络的学习算法有很多，其中较有代表性的是学习，误差修正型学习、随机学习、竞争型学习、基于记忆的学习以及结构修正学习。

§3.5典型的人工神经网络

（1）单层前向网络：最简单的人工神经网络，其网络中的神经元只有一层。最典型的单层前向网络是感知机。

（2）多层前向网络及BP学习算法：为了解决非线性可分的问题，可以采用多层网络，即在输入层和输出层之间加上隐层。这种由输入层、隐层和输出层组成的网络就是多层前向神经网络。BP网络就是一种单向的多层前向神经网络。

（3）径向基函数神经网络（RBF）：RBF网络是20世纪80年代提出的一种人工神经网络结构，是具有单隐层的前向网络。它不仅可以用来函数逼近，也可以进行预测。

（4）自组织竞争人工神经网络：在生物神经系统中，存在着一种“侧抑制”现象，即一个神经细胞兴奋后，通过它的分支会对周围其他神经细胞产生抑制。

（5）对向传播神经网络（CPN）：对向传播（CounterPropagation，CPN）网络是将自组织竞争网络与Grossberg基本竞争型网络相结合，发挥各自的特长的一种新型特征映射网络。

（6）反馈型神经网络（Hopfield）：Hopfield网络由相同的神经网络元构成的单层，并且具有学习功能的自联想网络，可以完成制约优化和联想记忆等功能，是目前人们研究最多的模型之一。

§3.6人工神经网络的matlab实战

人工神经网络在故障诊断、特征的提取和预测、非线性系统的自适应控制、不能用规则或公式描述的大量原始数据的处理等方面具有比经典计算方法优越的性能、且有极大的灵活性和自适应性。

在实际应用中，面对一个实际问题，如要用人工神经网络