人工智能9人工神经网络基础.pdfVIP

《人工智能：算法的视角》卷一草稿 第九章 人工神经网络基础 第九章 人工神经网络基础 人工神经网络 （Artificial Neural Network, ANN ）是在模拟人脑神经系统的基础上实现 人工智能的途径，因此认识和理解人脑神经系统的结构和功能是实现人工神经网络的基础。 而人脑现有研究成果表明人脑是由大量生物神经元经过广泛互连而形成的，基于此，人们 首先模拟生物神经元形成人工神经元，进而将人工神经元连接在一起形成人工神经网络。 因此这一研究途径也常被人工智能研究人员称为“连接主义”（connectionism ）。又因为人工 神经网络开始于对人脑结构的模拟，试图从结构上的模拟达到功能上的模拟，这与首先关 注人类智能的功能性，进而通过算法来实现的符号式人工智能正好相反，为了区分这两种 相反的途径，我们将符号式人工智能称为“自上而下的实现方式”，而称人工神经网络称为 “自下而上的实现方式”。 人工神经网络中存在两个基本问题。第一个问题是人工神经网络的结构问题，即如何 模拟人脑中的生物神经元以及生物神经元之间的互连方式的问题。确定了人工神经元模型 和人工神经元互连方式，就确定好了网络结构。第二个问题是在所确定的结构上如何实现 功能的问题，这一般是，甚至可以说必须是，通过对人工神经网络的学习来实现，因此主 要是人工神经网络的学习问题。具体地说，是如何利用学习手段从训练数据中自动确定神 经网络中神经元之间的连接权值的问题。这是人工神经网络中的核心问题，其智能程度更 多的反映在学习算法上，人工神经网络的发展也主要体现在学习算法的进步上。当然，学 习算法与网络结构是紧密联系在一起的，网络结构在很大程度上影响着学习算法的确定。 本章首先阐述人脑神经系统，然后说明人工神经元模型，进而介绍人工神经网络的基 本结构类型和学习方式。 9.1 人脑神经系统 人工神经网络是在神经细胞水平上对人脑的简化和模拟，其核心是人工神经元。人工 神经元的形态来源于神经生理学中对生物神经元的研究。因此，在叙述人工神经元之前， 首先介绍目前人们对生物神经元的构成及其工作机理的认识。 9.1.1 人脑神经元的结构 生物神经系统是由神经细胞和胶质细胞所构成的系统。胶质细胞在数量上大大超过神 经细胞，但一般认为胶质细胞在生物神经系统的机能上只起辅助作用，而将神经细胞作为 构成生物神经系统的基本要素或称基本单元，因此神经细胞又被称为神经元 （neuron ）。生 物神经系统表现出来的兴奋、传导和整合等功能特征都是生物神经元的机能。 生物智能与生物神经系统的规模有着密切关系，即与生物神经系统中神经元的个数有 关。一般而言，高等生物较之低等生物，其神经系统拥有更多的神经元。如海马的神经系 统只有2000 多个神经元，而人脑大约拥有1012 个神经元。 生物神经元的形状和大小多种多样，但在组织结构上具有共性。图9-1 显示了生物神经 元的基本结构以及两个生物神经元（突触前细胞与突触后细胞）之间的信号传递过程。图 中最主要的部分是树突、轴突和细胞体，它们分别起到信号输入、输出和处理的作用。我 1 们有时统称树突和轴突为突起。 北京理工大学计算机学院 刘峡壁 《人工智能：算法的视角》卷一草稿 第九章 人工神经网络基础 （树突） （细胞体） （细胞核）