神经网络发展.ppt

* 人工神经网络的发展 神经发展脉络图 再认识与应用研究期 萌芽期 反思期 第一黄金期 第二黄金期 （1940~1949） （1950~1968） （1969~1982） （1982~1986） （1986~） 关于智能的世界性事件 1997年5月11日北京时间早晨4时50分，一台名叫“深蓝”的超级电脑棋盘C4处落下最后一颗棋子，战胜世界棋王。在世界上引发了巨大震动，同时国际象棋在全球范围也得到了有力推动 2015年10月阿尔法狗围棋以5:0完胜欧洲围棋冠军、职业二段选手樊麾 在今年3月进行的围棋人机大战中，阿尔法狗(AlphaGo)最终以4:1战胜了韩国名将李世石九段，引起了全世界的广泛关注，也让神经科学和深度学习等概念进入了公众的视野不管是深蓝还是阿尔法狗，都是人工智能最具代表性的作品。人们总是将人工智能放在人的对立面，来探究谁才是最聪明的。 什么是智能？ 个体有目的的行为,合理的思维,以及有效的适应环境的综合能，区别其他低等动物的最本质特征。 实现形式：人类，人脑中神经元的互相连接行成的网络 机器人：拥有某种神经网络或实现某种算法的中央处理器 人工智能研究怎样让计算机模拟人脑从事推理,计算,思考学习等思维模式 比如人机博弈:阿尔法狗与李世石围棋对抗 智能的本质：联接机制人的各种行为活动是通过神经元之间传递信号,并把相应的信号传到人体的各个组织来完成相应的动作 比如：人—美女—交叉神经兴奋，大脑发出某种信号—唾液腺分泌增加，流口水 什么是人工神经网络： 即模拟人类实际神经网络的数学方法，一个有大量处理单元连接成的高度复杂的大规模非线性自适应系统（处理单元模拟神经元的功能） 人工神经网络用途：模式识别（语言,图像识别）,优化控制，智能控制等领域 例: 苹果Siri ,人脸识别,指纹识别 关于神经网络的几个问题萌芽期 探究智能的时期 通信连接 1943 心理学家 麦克洛奇 McClloch和数学家 皮兹 Pitts 总结了生物神经元的一些基本生理特征，对其一阶特性进行形式化描述，提出了一种简单的数学模型与构造方法。 建立著名的阈值加权算法,简称 M-P模型 1949年心理学家 赫布 D.O.Hebb 提出神经元之间突触联系是可变的假说，即Hebb学习律。Hebb学习律在人工神经网络的发展史上占有重要地位，被认为是人工神经网络学习训练算法的起点 MP模型是最终导致诺依曼Neumann电子计算机诞生的重要因素之一,数学家Neumann是现代计算机科学的创始人之一,又是最初的神经网络设想者之一.他研究了自我繁衍自动机,而且证明了至少存在一种确实能够自我繁衍的分子自动机模型,1966年他提出了元胞自动机,可用来模拟生命系统所具有的自复制功能,还可用来模拟其他的自然现象.但有很多元胞自动机也并不一定对某个连续系统的离散化描述得好.于是,Neumann又设想一种新的计算机:基于自动机理论、自然和人工智能知识的计算机人的大脑神经元运作的方式的确和原子内粒子的运作方式类似，人类的大脑的确是所有神经网络的总和。每个神经元本身并不重要，重要的是这些神经元怎么联合起来，联合起来可以做些什么事，这才是的细胞集合的核心第一个黄金期 1957年，罗森布兰特（Rosenblatt）提出了感知器（Perception）的概念，试图模拟人脑的感知学习能力。 1962年，韦德罗（Widrow）和胡佛（Hoff）提出了自适应线性单元（Adaline），这是一个连续取值的线性网络。 随着电子计算机的出现（1946年），人们开始用更方便的电子计算机程序模拟它。由于用程序进行模拟即便于修改又便于测试，更重要是，这种方法的费用很低。所以第一次把神经网络研究付诸于工程实践让然研究者们对神经网络的研究产生极大的兴趣 感知器的提出反思期 1969年，人工神经网络的创始人之一明斯基（Minsky）和佩珀特（Papert）发表了《感知器》一书，对感知器的能力表示了怀疑态度。他们从理论上证明了单级感知器无法解决许多简单的问题 例如 “异或（xor）”运算,即 a,b两值不同时结果为1，相同时结果为0。单级感知器无法解决该问题。 由于Minsky在该领域的权威，使人们对此结果深信不疑，从而导致许多研究人员放弃了对这一领域的研究，政府、企业也减少了相应的投资。但是仍有少数科学家坚持进行研究。 感知器的缺陷 20世纪60年代，冯·诺依曼型数字计算机正处于发展的全盛时期，人工智能在符号的处理上也取得了显著成就，这些成就的取得掩盖了发展新型模拟计算机和人工智能技术的必要性和迫切性。再加上神经网络自身的一些局限，一时使神经网络的研究陷入困境。 1969年，美国学者格诺斯博格（Grossberg）和卡普特尔（Carperter）提出了自适应共振理论（ART）模型。 1976年波斯顿大