- 1、本文档共61页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
* 算法基本思想 根据样本的期望输出与实际输出之间的平方误差,利用梯度下降法,从输出层开始,逐层修正权系数。 网络学习: 每个修正周期分两个阶段: 前向传播阶段 反向传播阶段 前向传播阶段 输入样本: 第J层节点输入: 第J层节点的输出: 其中h是隐层节点数 , f为非线性函数: 第k层节点输入: 第k层节点输出: 其中, c为输出节点数 反向传播阶段 假设输入样本: 期望输出: 经前向传播,网络实际输出为 定义平方误差E为 BP算法以E为准则函数,采用梯度下降法求解使准则函数达到最小值时的权系数。 由于有误差,说明网络权系数不合适,应该进行修正。 式中,η是步长, E与Wkj没有直接关系。 由公式(3)得到 由公式(4)得 式中 由公式(5)得 公式(6)可改写为 隐含层权系数修正: 由公式(1)得 又有 由公式(2)得 由公式(5)得 将公式(11)、(12)代入(10)得 采用单极型Sigmoid函数作激励函数: 类似有: 将公式(15)代入(8)得 将公式(14)代入(13)得 总结 输出层节点权系数修正公式: k=1,2,…,c j=1,2,..,h+1 j=1,2,…,h i=1,2,…,n+1 , , k=1,2,…,c j=1,2,…,h+1 隐含层节点权系数修正公式: 可见,修正隐含层权系数wji时,需要上一层算出δk及上一层修正后的权系数wkj,即由输出层向输入层逐层反推的学习算法。 程序流程图 识别(分类) 将待识别的模式x送入网络输入层,根据训练阶段得到的权系数进行计算。先求隐含层输出,再求输出层输出: 讨论 1.因Sigmoid激励函数 0f(x)1, 所以期望变量分量dk不宜设为1或0,可以选择0.1和0.9。 2.学习速率η要选择恰当的值。如果学习速率η较小,学习速度比较慢,而若学习速率η过大则会引引起网络出现振荡,不能收敛。因此。在开始时选大些,可以使学习速度加快,在临近最佳点时η要小些。 3.BP算法属于非线性优化问题,不可避免会遇到局部极值问题。解决方法包括: (1)给权值加小的扰动; (2)重新初始化权系数; (3)适当增加噪声。 4.权系数初始值不宜取相同的值,可以用随机函数确定。 5.节点数的选择: 输入层节点数 = 模式特征分量个数, 输出层节点数 = 分类数, 隐含层节点数:取决问题,隐含层可以是1或2层 隐含节点个数不可太多,否则可能对训练样本造成“过拟合”,实际应用效果差。 5.4 马尔可夫随机场与期望值最大化方法 似然(Likelihood): p(y|x), x:类别; y: 特征向量 用统计学方法对图像分割,最初采用最大似然法,受噪声等因素影响,分割结果经常会出现一些小的孔洞。引入最大后验概率准则(Maximum A Posteriori, MAP)后,这个问题才得到解决。 MAP将最大似然问题转化为类概率 p(x)与类条件概率p(y|x)乘积最大的问题。 在计算类概率 p(x)时,利用到马尔可夫随机场与吉布斯分布的等效性; 类条件概率p(y|x)的计算则涉及像素强度分布及模型参数拟合问题。 5.4.1有限混合模型 用φ表示模型参数: 有限混合模型(Finite Mixture Model)假定两个组态x和y是成对独立的,它们的联合概率分布为 MR图像中脑组织的灰度分布 多种脑组织灰度分布的综合包络就构成有限混合模型。该模型数学形式简单,并已广泛应用于许多模式识别问题之中。但模型仅考虑统计信息,而不包含任何空间信息。应用在图像分割中,这意味仅根据图像的直方图进行分类。相同的直方图可以对应各种不同的图像强度空间分布。因此,仅用有限混合模型做图像分类是不完全的,必须考虑图像像素间的近邻关系。马尔可夫随机场理论提供了这方面的解决办法。 5.4.2 马尔可夫随机场 为了定义图上的马尔可夫随机场(Markov Random Fields, MRF),首先给出图的概念。 设S={s1,s2,…,sn}是R2中的点集,G表示连接S中任意两点所组成线段的集合,则称{S,G}为图。二维格点上的像素矩阵X就是一个图。若图像X的任何像素的分布满足以下两个条件 (1) (2) 其中,x为X的一个实现,则称X为关于G的马尔可夫随机场,简记做MRF。 5.4.
文档评论(0)