第2节神经网络基础知识.pptxVIP

第2节神经网络基础知识第1页/共35页第2页/共35页2.1人工神经网络的生物学基础 神经生理学和神经解剖学的研究结果表明，神经元(Neuron)是脑组织的基本单元，是人脑信息处理系统的最小单元。生物神经元生物神经网络第3页/共35页2.1.1生物神经元 生物神经元在结构上由: 细胞体(Cell body)、 树突(Dendrite)、轴突(Axon)、突触(Synapse) 四部分组成。用来完成神经元间信息的接收、传递和处理。人工神经网络的生物学基础第4页/共35页人工神经网络的生物学基础第5页/共35页2.1.2 生物神经元的信息处理机理二信息的传递与接收人工神经网络的生物学基础第6页/共35页2.1.3 生物神经网络 由多个生物神经元以确定方式和拓扑结构 相互连接即形成生物神经网络。人工神经网络的生物学基础 生物神经网络的功能不是单个神经元信息 处理功能的简单叠加。 神经元之间的突触连接方式和连接强度不 同并且具有可塑性，这使神经网络在宏观 呈现出千变万化的复杂的信息处理能力。第7页/共35页2.2人工神经元模型第8页/共35页2.2.1神经元的建模神经元的人工模型第9页/共35页假设1：多输入单输出图(a) 表明，正如生物神经元有许多激励输入一祥，人工神经元也应该有许多的输入信号，图中每个输入的大小用确定数值xi表示，它们同时输入神经元j，神经元的单输出用oj表示。神经元的人工模型第10页/共35页假设2：输入类型：兴奋性和抑制性生物神经元具有不同的突触性质和突触强度，其对输入的影响是使有些输入在神经元产生脉冲输出过程中所起的作用比另外一些输入更为重要。图(b)中对神经元的每一个输入都有一个加权系数wij，称为权重值，其正负模拟了生物神经元中突触的兴奋和抑制，其大小则代表了突触的不同连接强度。神经元的人工模型第11页/共35页假设3：空间整合特性和阈值特性作为ANN的基本处理单元，必须对全部输入信号进行整合，以确定各类输入的作用总效果，图(c)表示组合输人信号的“总和值”，相应于生物神经元的膜电位。神经元激活与否取决于某一阈值电平，即只有当其输入总和超过阈值时, 神经元才被激活而发放脉冲, 否则神经元不会产生输出信号。神经元的人工模型第12页/共35页神经元的输出图(d) 人工神经元的输出也同生物神经元一样仅有一个，如用oj表示神经元输出，则输出与输入之间的对应关系可用图(d)中的某种非线性函数来表示，这种函数一般都是非线性的。神经元的人工模型第13页/共35页神经元模型示意图神经元的人工模型第14页/共35页2.2.2神经元的数学模型(2. 1)神经元的人工模型τij—— 输入输出间的突触时延； Tj —— 神经元j的阈值； wij—— 神经元i到 j 的突触连接系数或称 权重值； f ()——神经元转移函数。(2. 2)第15页/共35页2.2.2神经元的数学模型(2.3)神经元的人工模型(2.4) net’j=WjTX Wj=(w1 w2 … wn)T X=(x1 x2 … xn)T 令 x0=-1，w0=Tj 则有 -Tj=x0w0第16页/共35页2.2.2神经元的数学模型神经元的人工模型(2.5) oj=f(netj)=f (WjTX)(2.6)第17页/共35页2.2.3神经元的转移函数 神经元各种不同数学模型的主要区别在于采用了不同的转移函数，从而使神经元具有不同的信息处理特性。最常用的转移函数有4种形式。神经元的人工模型第18页/共35页2.2.3神经元的转移函数(1)阈值型转移函数 1 x≥0 f(x)=(2.7) 0 x＜0 神经元的人工模型第19页/共35页2.2.3神经元的转移函数(2)非线性转移函数神经元的人工模型 Log-sigmoid对数正切S型传递函数 tan－sigmoid双正切S型传递函数 第20页/共35页2.3人工神经网络模型分类：按网络连接的拓扑结构分类层次型结构互连型网络结构按网络内部的信息流向分类前馈型网络反馈型网络人工神经网络模型第21页/共35页2.3.1网络拓扑结构类型 ：层次型结构：将神经元按功能分成若干层，如输入层、中间层（隐层）和输出层，各层顺序相连。互连型网络结构：网络中任意两个节点之间都可能存在连接路径.人工神经网络模型第22页/共35页2.3人工神经网络模型2.3.1网络拓扑结构类型 层次型结构：人工神经网络模型1. 单纯型层次型结构第23页/共35页2.3.1网络拓扑结构类型 2.输出层到输入层有连接人工神经网络模型第24页/共35页2.3.1网络拓扑结构类型 3.层内有连接层次型结构人工神经网络模型第25页/共35页2.3.1网络拓扑结构类型 互连型网络结构：人工神经网络模型1.全互连型结构第26页/共35页2.3.1网络拓扑结