序列最小二乘技术在联想记忆网络训练中的应用.pdf

维普资讯 第25卷第1期 福州大学学报(自然科学版) V0l-25No．1 Journa1ofFuzhou Univcrshy{NaturalSc 眦 序列最小二乘技术在联想记忆网络训练中的应用 }1^Z3 竖 丝 ．}Pil (福州大学计算机科学与技术系，福州，350002) ^擅 要 本文把联想记忆弼络中要全部记住一组训练样本的克要条件的求解等价地转化为一组混 合不等式方程组的求解阃题，并采用序列最小二乘技术求解．所得到的用络具有记忆稳定状态能 力高的特点． 关键词联想记忆；最小二乘：不等式；方程纽 联想圯7乙同鳄 驯练辩年 t引言 最小二乘寸j术《， 考虑月个神经元组成的二值H0pneld网… 用 (1)表示第f个神经元在l时刻的状 ． 态，那么整个网络在 l时刻的状态就可表示为 (1)= (f)x2(1)．…， ．(f))，而在 f +I时刻网络状态x(t+1)是由下列演化规则决定的： (I+1)= I∑WX“) (i= 1，2，… ， ) ’、 -1 其中： senc：={ 一 翟 W 是第 单元输人第价 单元的权值；r，是第价 单元的阈值． 对于上述联想神经网来说，若不考虑神经元的阈位，输入的训练样本 =(，s： … ， ：)是稳定态的充要条件是：对 fe(1．2，…，一)．有 ∑(卢；)≥0 (As=埘) ∑( ) 0 (当 =一l时) - L 令： =( ，W ，…．W )eR，A一( ， ：，…， ：)ER，这样S 为稳定状态的充要条件可进一步表示为 ： f( )W．≥0 (当 =i，Vie~l，2，…，H}) l()Wio (当 =一1， fef1，2，…， }) 由此可得．输入的m个训练样本 ’ S，…， 均为稳定态的充要条件是 本文收到 日期：1996—06一I7 叶东毅，男，1964年出生．剐教授 本研究得到福建省 自然科学基金资助 ， ， i 维普资讯 · 2O · 橱州大学学报(自然科学版) 第 25卷 对 fef1，2，…， )有 A Wj≥。 当‘ ¨时- - … · f2) ￡ WIo f当 =一l时．P=l-2．…，卅) ‘ f 其 中。 。= ( ，A ．…，A ) 。或 {己S=( ’．S ，…S ) ∈Rmxm，工 = diag(S 。S 。…。 )∈R… ，则有 ： AI=LI ‘S (3) 这样，联想神经网络要记住 m个训练样本的权值学习问题就等价地转化为对 个不等式方 程组 (2)的求解 ． 近年来．陆续有人将优化技术