智能传感器系统神经网络技术及其在智能传感器系统中的应用.ppt

第六章

神经网络技术及其在智能传感器系统中的应用;人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。

逻辑性的思维：是指根据逻辑规则进行推理的过程。;直观性的思维：是将分布式存储的信息综合起来，成果是瞬间产生想法或处理问题的措施。

1.信息是通过神经元上的兴奋模式分布存储在网络上；

2.信息处理是通过神经元之间同步互相作用的动态过程来完毕的。;6.1神经网络基本知识;神经元是神经网络的基本单元；

Wli表达某一神经元与第i个神经元的连接权值；

阈值（偏置值）；

神经元的输出可描述为：;式中：f(Ai)表达神经元输入—输出关系的函数，称为作用函数或传递函数，常用的作用函数有如图6-2所示的三种：阈值型、S型和分段线性型(伪线性型)。这样，就有三类神经元模型。

假如有阈值，则表达当神经元的输入到达一定的强度后才能激活。;图6-2常见的作用函数形式

(a)阈值型；(b)S型；(c)伪线性型;一、阈值型神经元

阈值型神经元是一种最简朴的神经元，由美国心理学家Mc.Culloch和数学家Pitls共同提出，因此，一般称为M-P模型。

M-P模型神经元是二值型神经元，其输出状态取值为1或0，分别代表神经元的兴奋状态和克制状态。其数学体现式为;二、S型神经元模型

这是常用的一种持续型神经元模型，输出值是在某一范围内持续取值的。输入—输出特性多采用指数函数表达，用数学公式表达如下：;三、分段线性型

神经元的输入—输出特性满足一定的区间线性关系，其输出可表达为;6.1.2神经网络构造;二、互相连接型构造;6.1.3学习与记忆;误差修正算法是神经网络学习中另一种更重要的措施。像感知机、BP网络学习均属此类。是最基本的误差修正学习措施，即一般说的δ学习规则，可由如下四步来描述：

(1)任选一组初始权值Wji(0)。

(2)计算某一输入模式对应的实际输出与期望输出的误差。

(3)更新权值

Wji(t+1)=Wji(t)+η［dj-yj(t)］xi(t)

式中：η——学习因子；

dj、yj——第j个神经元的期望输出与实际输出；

xi——第i个神经元的输入。

(4)返回环节(2)，直到对所有训练模式、网络输出均满足误差规定为止。;二、神经网络的记忆

神经网络记忆包括两层含义：信息的存储与回忆。网络通过学习将所获取的知识信息分布式存储在连接权的变化上，并具有相对稳定性。一般来讲，存储记忆需花较长时间，因此这种记忆称为长期记忆，而学习期间的记忆保持时间很短，称为短期记忆。

;6.1.4神经网络的信息处理功能

神经网络可以完毕大量的信息处理任务，正由于这样，其应用波及相称广泛的领域。归纳起来，神经网络的信息处理任务重要包括：

一、数字上的映射迫近

通过一组映射样本(x1,y1),(x2,y2),…,(xn,yn)，网络以自组织方式寻找输入、输出之间的映射关系：yi=f(xi)。

二、联想记忆

联想记忆是指实现模式完善、恢复有关模式的互相回忆等，经典的有如Hopfield网络等。;6.2前向网络;感知机的学习算法为;6.2.2BP网络;在实际应用中一般为三层：

输出层：Lwkj表达隐层第j个节点与输出层第k个节点的连接权值；

神经元序号k=1，2，…，M

隐层：Iwji表达输入层第i个节点与隐层第j个节点的连接权值；

神经元序号j=1，2，…，L

输入层：

神经元序号i=1，2，…，R;二、网络构造示意图（书中图6-9）

网络的输入层有3个节点；隐层有4个节点；输出层有2个节点。

三、BP神经网络神经元模型

BP网络神经作用函数：

1）输入层神经作用函数：纯线性

节点i的输出为：Oi=Pi

2）隐层作用函数：对数S型，共有4*3个权值

;

输出层神经作用函数：对数S型，共有2*4个权值

;一般选用下列S形作用函数：;假如任意设置网络初始权值，那么对每个输入模式p,网络输出与期望输出一般总有误差。定义网络误差为;而;当Opj表达输出层单元的输出时，其误差;当Opj表达隐单元输出时，其误差;故;在实际应用中，考虑到学习过程的收敛性，一般为了使学习因子η取值足够大，又不致于产生振荡，在权值修正公式(6-29)中再加一种势态项，