音素识别中时延神经网络的一种快速学习算法音素识别中时延神经网络的一种快速学习算法.pdf

维普资讯 第十四卷 第四期 信 号 处 理 VOI_14．No4 1998年 12月 SIGNAL pRoCESSING D 1998 音素识别中时延神经网络的 弓II～弓e 一种快速学习算法舟 江-’铭虎林碧琴保宗 ^。7-／ft{十 ’ - _ ， ’ 。 _ ● - ● _ ～ _ 一 (北方交通大学信息科学研究所) l摘 要 】本文对音索识别中时延神经网络提出若干改进训练方法并与原方法进行实验对比研究，发现通过 采取如下措藏可有效地增加时延神经网培的收敛速率：(1)误差反传法初训权值 ．(2)从单极性输出改为双极性 输出．(3)改变能量函数使权值修正根据输出谩差的大小而改变．(4)将反传误差修正权值从按时延错取平均改 为按层进行．这些措施使收敛时间从原来的23小时另25分减少到 45分钟，收敛速率提高数十倍之多，而网培 复杂度增加很少． 羔 B l -~1。m 0r ,ta), 关键词：音素识别 时延神经网络，收敛速度 替 、-_ _ 一 I 一 、 引 言 音素识别是当前国际语音识别的研究热点之一 ，对于任何一种语言，通常可用几十个音素 表示它的发音，因此音素识别所需的样本数和存储量很小，它特别适宜于连续语音识别。对它 的研究有两个难点，其一是音素的正确分割相当困难，许多音素其转换往往是渐变的，两音素之 间经常没有明显的特征变化过程；其二是音素受协同发音的影响大，同一音素在前后音素不同 的组合下，其发音变化极大。这两点直接影响着音素的识别率。W~bel等人 在考虑了语音信 号特点的基础上从工程的角度提出了时延神经网络，它适合于描述时间序列模式，其主要 目的 是抽取音素特征，并对输入区间的变化有很强的时延不变适应髑力。它对音素识别有很高的识 别率，但它的主要缺点是基于双隐层BP学习算法的时延神经网络，所需训练时间特长，难以接 受。因此研究时延神经网络的一种快速高效学习算法，对音素识别和连续语音识别的研究具有 极其重要 的意义。 二 、 时延神经网络的结构及学习算法 对于语音的时变特性问题，wa丑)d研究了与时间有关能量函数的时延神经网络 (TDNN)， 它在网络中加入了时延，如图I所示。TDNN将时延引进每个网络的基本单元，对于每个输入 均考虑它在不同时刻的值，起到了时域动态规划的作用。它是一个双隐层的多层感知器，从输 入层看它是一个以10ms帧率，共 l5帧 16阶Md谱系数构成的。它的时延为2，每三帧一集， 随着时间的移动，去掉一帧，加入新的一帧，构成新的一集；第一隐层 时延为 4，每 5帧一 集，每帧8个节点；第二隐层是时延为8，由9帧按行构成一集，每城三上节点；输出层三个节 点；利用BP算法训练每集。根据每个连接权在所有集的能量误差，来调整各集的对应权，训练 ·本课题得到国家岛然科学基金贷助． 维普资讯 信 号 处 理 第十四卷 结束时，每层各粜均具有相同的权矩阵，这种训练需要很大的计算量和叠代次数，根据各层每粜 计算能量误差