人工神经网络算法简介.docVIP

西安电子科技大学软件学院130513班 黎建文? ? 摘要 “人工神经网络”这个词汇对不少人来说并不新鲜，但是它的内涵，原理对很多人来说并不清楚。本文试图对人工神经网络及其原理进行一个简单的介绍。 关键字 人工神经网络 ? Introduce to the Artificial Neural Network Algorithms Abstract In recent years, the word ”artificial neural network is not fresh to many people, whose intension and theorem is not so clear to them. They will be introduced in this article. Key words Artificial neural network 一 背景 人工神经网络的研究，可以追溯到 1957年Rosenblatt提出的感知器(Perceptron)模型 。它几乎与 人工智能—— AI（ Artificial Intelligence）同时起步，但30余年来却并未取得人工智能那样巨大的成功，中间经历了一段长时间的萧条。直到80年代，获得了关于 人工神经网络切实可行的算法，以及以Von Neumann体系为依托的传统算法在知识处理方面日益显露出其力不从心后，人们才重新对人工神经网络发生了兴趣，导致神经网络的复兴。 ? 二 人工神经网络 在介绍人工神经网络及其原理之前，让我们先了解一下生物的神经网络的工作原理。 从神经细胞处理刺激的角度看，每个神经细胞可以简单地看做由三部分组成：树突，轴突，细胞体。对每个神经细胞，树突可以由多个，它们是接受来自其他神经细胞的刺激的通道；细胞体只有一个，它接受刺激并进行相应的处理；轴突也只有一个，它负责输出刺激，通过神经连接传递给其他神经元。 当某个来自大脑或者感受器的刺激发生，神经细胞就通过树突-胞体-轴突-神经连接-其他细胞这样的迅速将刺激通过处理传到其他神经细胞。这样一条通路就是一个信息处理的通路。整个神经系统由无数的神经细胞及神经连接组成，构成一个神奇的巨大的信号处理系统。 胞体3 胞体1 胞体2 神经连接 树突 轴突 刺激处理 刺激输出 刺激输入 ? 但是刺激在神经系统里并非毫无规律地广播式地传播。通常某条通道对某类刺激传播的速度比较快，而且神经细胞每传播一次这类刺激，似乎这类刺激就在这个神经细胞里留下了痕迹，就好像很多动物会在走过的路上留下分泌物。渐渐地这类刺激在大多数情况下多会从这条通道经过，通过这条通道相同的处理后输出。 聪明的科学家从生物的神经系统里得到启示，创造了一种新的处理信号的具有一定智能的人工神经网络。他们仿造生 物神经系统建立了这样一个信号处理的模型： ? 每个信息处理单元接受n个输入X1,X2…Xn,对每个输入的灵敏度为W1,W2…Wn,处理单元的处理功能用一个函数 y = f(X1*W1+X2*W2+…Xi*Wi+…Xn*Wn- Θ) 表示，而处理单元处理的结果就是输出Y。 由多个这样的信息处理单元构成的一个网络就是人工神经网络。让我们看一下美国神经网络学家Hecht Nielsen对人工神经网络的定义：人工神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算机 系统，该系统考其状态对外部输入信息的动态响应来处理信息。 ? 三 人工神经网络算法 1设计信息处理单元连接的方式 按照信息处理单元的连接方式，神经网络可以分为多种类型。这里介绍按照结点有无反馈划分的两种典型的网络结构： （1）前馈网络 网络可以分为几个层。各层按信号传输先后顺序依次排列，第i层的神经元只接受第i-1层神经元给出的信号。各神经元之间没有反馈。输入层结点与输出层结点称为“可见层”，其他中间层则称为“隐层”。 （2）反馈网络 网络分层，某些结点除了接受外加输入以外，还要接受其他结点的反馈，或者是自身的反馈。 当然，除了这种划分方式，还有按照层数划分为单层网络与多层网络，按照输入数据的特点划分为离散网络和连续网络等。 不同的网络在性能和效率上会有很大的差异，一般来说，跨层连接的结点越多，网络越是可靠；层数越多，网络的效率越低；反馈越多，网络的学习能力越强；结点个数越多，网络的记忆能力就越好。因此往往要根据实际应用设计网络的连接。在这里，我们不难得出一个结论：信息处理单元连接的方式的设计是人工神经网络算法设计的一个重要方面。 目前研究得相对成熟的是BP误差反传神经网络，Hopfield反馈神经网络，BAM双向联想记忆神经网络，CMAC小脑神经网络，