高级人工智能——第6讲计算智能.ppt

合肥工业大学人工智能与数据挖掘研究室 高级人工智能 计算智能/ai 王浩 人工神经网络——概念 人脑有极大量的神经元（约为1010~ 1012个）,每个神经元又约有103~ 104个突触，神经元通过突触经过复杂的互连而成的一种高度复杂、非线性、并行处理的信息处理系统。 与计算机相比 数量：神经元1010~ 1012 个； 目前世界上最快的富士通 “京”计算机,由68544个8核处理器所组成，总核数达548,352个 。 人工神经网络——概念 速度：单个神经元的反应速度是在毫秒级； 计算机逻辑门反应时间在10-9S 连接：每个神经元可与几千个其他神经元连接（总连接数6×1013）； 计算机 几百个机架，通过交换机与I/O节点连接 能耗：神经元每一运算约10-16J/S； 计算机每一运算10-6J/S， “京”计算机9,890千瓦电源。 人工神经网络——概念 神经元指神经细胞,它是生物神经系统的最基本的单元。 神经元由细胞体、树突和轴突组成。细胞体是神经元的主体,由细胞核、细胞质和细胞膜三部分构成.从细胞体向外延伸出许多突起,其中大部分突起呈树状,称为树突.树突起感受作用,接受来自其他神经元的传递信号. 人工神经网络——概念 由细胞体伸出的一条最长的突起,用来传出细胞体产生的输出信号,称之为轴突;轴突末端形成许多细的分枝,叫做神经末梢;每一条神经末梢可以与其他神经元形成功能性接触,该接触部位称为突触。所谓功能性接触是指并非永久性接触,它是神经元之间信息传递的奥秘之处。 一个神经元把来自不同树突的兴奋性或抑制性输入信号(突触后膜电位)累加求和的过程，称为整合。考虑到输入信号的影响要持续一段时间(毫秒级),因此,神经元的整合功能是一种时空整合。当神经元的时空整合产生的膜电位超过阈值电位时,神经元处于兴奋状态,产生兴奋性电脉冲,并经轴突输出;否则,无电脉冲产生,处于抑制状态。 ? 人工神经网络——概念 一般地,人工神经元的结构模型下图所示。 它是一个多输入单输出的非线性阈值器件。其中 x1，x2，…xn表示神经元的n个输入信号量； w1，w2，…，wn表示对应输入的权值,它表示各信号源神经元与该神经元的连接强度； A表示神经元的输入总和,它相应于生物神经细胞的膜电位,称为激活函数；y为神经元的输出；θ表示神经元的阈值。 人工神经网络——概念 人工神经网络——概念 人工神经网络——概念 以上三种特性函数的图像依次如下图中的(a)、(b)、(c)所示。 由于特性函数的不同,神经元也就分为阈值型、S型和分段线性型三类.另外,还有一类概率型神经元,它是一类二值型神经元。与上述三类神经元模型不同,其输出状态为0或1是根据激励函数值的大小,按照一定的概率确定的。例如,一种称为波尔茨曼机神经元就属此类。 如果将多个神经元按某种的拓扑结构连接起来，就构成了神经网络。 根据连接的拓扑结构不同，神经网络可分为四大类：分层前向网络、反馈前向网络、互连前向网络、广泛互连网络。 （1）分层前向网络 分层前向网络如上图(a)所示。这种网络的结构特征是，网络由若干层神经元组成，一般有输入层、中间层（又称隐层，可有一层或多层）和输出层，各层顺序连接；且信息严格地按照从输入层进，经过中间层，从输出层出的方向流动。 （2）反馈前向网络 反馈前向网络如上图(b)所示。它也是一种分层前向网络，但它的输出层到输入层具有反馈连接。反馈的结果形成封闭环路，具有反馈的单元也称为隐单元，其输出称为内部输出。 （3）互连前向网络 互连前向网络如上图(c)所示。它也是一种分层前向网络，但它的同层神经元之间有相互连接。同一层内单元的相互连接使它们之间有彼此牵制作用。 （4）广泛互连网络 所谓广泛互连是指网络中任意两个神经元之间都可以或可能是可达的，即存在连接路径，广泛互连网络如图上图(d)所示。著名的Hopfield网络、波尔茨曼机模型结构均属此类。 具体来讲，神经网络至少可以实现如下功能： 数学上的映射逼近 通过一组映射样本(x1，y1)(x2，y2)，…，(xn，yn)，网络以自组织方式寻找输入与输出之间的映射关系：yi=f(xi)。识别和分类可以抽象为这一过程。 数据聚类 通过自组织方式对所选输入模式聚类。多目标跟踪 联想记忆 实现模式完善、恢复，相关模式的相互回忆等。 优化计算和组合优化问题求