论文：进化神经网络学习算法和软件的研究.pdf

进化神经网络学习算法和软件的研究 史天运 贾利民 铁道科学研究院， 北京 100081 摘 要：为了使进化神经网络更实用和更完善，对辅助式进化神经网络中学习样本的进化预处理，学习参 数、神经元参数和学习规则的进化优化，利用进化算法解释神经网络，和结合式进化神经网络中权重进化、 结构进化、二者同时进化等诸多学习算法进行了详细分析，指出了他们实现的关键技术和重点环节，提出 了进化神经网络软件平台的总体设计，初步成功开发了基本软件系统，验证了总体思路和核心算法，对进 化神经网络的发展具有重要意义。 关键词：进化神经网络，学习算法，软件平台，总体设计 Learning Algorithm and software system Research of Evolutionary Neural Networks Shi Tianyun Jia Limin China Academy of Railway Sciences, Beijing 100081 Abstract: In order to make evolutionary neural networks(ENN) more practical and perfect, the learning algorithms for assistant and combined evolutionary neural networks are analyzed detailedly such as pretreatment for learning samples, optimization of learning parameters, neuron parameters and learning rules, explanation of neural network, weight training, structure optimization, simultaneous evolution for weights and structure, and so on, based on evolutionary algorithms. In which the realized technologies and key tache are pointed. Then the general designs for ENN software platform are put forwarded. Finally the ENN basic software system has been developed successfully to test the above ideas and key algorithm. It has the important meaning for the ENN development. Keywords: Evolutionary neural networks, Learning algorithm, Software platform, General design 1 概 述 进化神经网络(Evolutionary Neural Network, 简称 ENN) 是将进化算法(Evolutionary Algorithm, 简称EA)与神经网络(Artificial Neural Network, 简称ANN)有效结合，利用进化 算法来优化训练神经网络的权重、结构和参数，从而设计神经网络，达到提高学习效率， 建立最优的神经网络模型的目的。 根据进化算法与神经网络结合方式不同[1]，可分为辅助式进化神经网络和结合式进化神 经网络。辅助式进化神经网络主要包括如下三种类型：（1）利用进化算法对神经网络学习 样本中的小样本、矛盾、重复、分布不均等数据进行预处理，使学习样本分布均匀，合理 有效，利于神经网络的设计；（2 ）利用进化算法优化选择神经网络的学习参数（如学习率 和惯性系数）、学习规则和神经元参数，提高学习效率和模型精度；（3 ）利用进化算法优化 生成一个多项式函数等直观模型，