《人工神经网络.pptVIP

ANN 2003年下学期硕士研究生课程授课老师：常建平 第一章 绪论 § 1、1 研究人工神经网络的意义 计算机与人脑相比存在某些缺陷 1、计算机串行的工作方式决定了它只具有“逻辑思维”能力，而不具有“形象思维”能力。 2、计算机只能“被动”的执行人为它编写好的程序，没有“主动”的“学习”能力。 3、计算机“一对一”的信息存储方式使得它没有容错性。 § 1、2 何为人工神经网络？特点？ Artificial Neural Network 简写为ANN. ANN是一种模拟人的脑神经结构及其功能的信息处理系统。 1、ANN的一般结构： 2、特点 a、传统计算机的‘存储’与‘计算’是独立分开的，因而在‘存储’与‘计算’之间存在“瓶颈”。 而在ANN中，信息的‘存储’与‘处理(计算)’是合二为一的。不论单个神经元还是整个神经网络都兼有信息处理(计算)和存储的双重功能。因此，从本质上解决了传统计算机无法解决的“瓶颈”问题。 b、在ANN中，同一个信息“分布式”的存储在各个神经元之间的“连接权”上，因此ANN具有很强的容错性。任何局部的损伤不会影响整体结果。 C、在ANN中，所有 “连接权”同时完成信息的‘存储’、‘计算’、‘传递’的功能， 是“并行式”或者“集体式”的工作方式。因此，比‘串行式’工作方式的传统计算机速度要快的多。 D、 ANN工作时不需要编程，通过对环境的学习，将信息存在网络的“连接权”中。有很强自适应能力。 § 1、3 ANN所研究的内容、应用领域及存在的问题 一、研究内容分为以下几个方面 2、建立理论模型（广义） （是对生物原形的抽象） 据生物原形的研究，建立神经元、神经网络的理论模型（概念模型、知识模型、物理化模型、数学模型等） 3、技术模型的研究（网络模型与算法研究） （是对理论模型的物理实现或数学描述） 在建立理论模型的基础上，构造具体的神经网络模型（以实现计算机模拟或者准备制作硬件）包括对网络学习算法的研究。——这是我们这门课程主要讨论的内容 4、人工神经网络应用系统 （是依赖于技术模型研究的成果） 在构造作出的网络模型及算法的基础上，利用ANN组成实际的应用系统。 ANN能在一定程度上模拟生物神经系统的智慧和功能，使得它在信息处理和智能科学中有着极其重要的地位，世界各国的科学家们对神经网络这门科学给予了极大的关注，并且成为国际前沿研究的热点 例如：美国国防部预研局（Denfense Adcanced Research Projects Agency ）资助众多科学家和军事专家，经过多方面严格而周密的论证，决定把基于神经网络的自动目标识别、声纳信号处理、语音识别、地震勘探信号处理等作为研究的重点，并认为他们是最有前途且能取得重大突破的应用领域。 以下是根据一些文献的介绍列出的ANN在一些领域中应用的情况： 1、模式识别与图像处理 印刷体和手写体字符识别、语音识别、指纹识别、人脸识别、签字识别、图像压缩复原、DNA序列分析、癌细胞识别、心电图脑电图识别、油汽藏检测、加速器故障检测、电路故障检测 2、控制及优化 机械手运动控制、运载体轨迹控制、化工过程控制、电弧炉控制 3、预测与管理 工业生产、气候、灾难等的预报和预测、股票市场预测、有价证券管理、借贷风险分析、信用卡欺骗检测 4、通信 自适应均衡、回声抵消、路由选择、导航、ATM网络中呼叫接纳识别及控制 三、存在的问题 1、迫切需要建立ANN的理论体系（需要宏观的理论指导） 目前尚未形成统一、完整的理论体系。 2、迫切需要硬件制作技术的新突破 3、ANN模型对生物神经网络的模拟逼进程度有待于进一步提高。 § 1、4 从人脑神经元到人工神经元 一、生物神经元结构（人脑神经元细胞的基本结构） 人脑包括1010～1011 个神经元，每个神经元平均与103～105个其他神经元相连。连接部分——突触。 1、突触 一个细胞的轴突末梢（输出信号）通过突触，将信号输入给另一个细胞的树突（树突负责接收信号） 2、突触间隙 在突触处，两个细胞并未直接连接，存在间隙。它是生物神经元进行信息传递和存储的重要部位，也是电系统和化学系统的耦合部位。（电－化－电反应） 3、加权 两个神经元之间信号传递时“耦合”紧密的“程度”。或者说突触连接的“强度”。权值有极性（正负）大小之分。 4、兴奋性与抑制性突触 当突触前的一个神经元使突触后的神经元的电位提高并且使其膜电位接近阈值，使后一个神经元变得易于兴奋，则称此突触为“兴奋性突触”。 反之，当突触前的一个神经元使突触后的神经元的电位下降，使后一