材料设计_精品文档.pptVIP

其中xij为标准化数据,经过标准化处理的变量权重相同,均值为零,方差为1。6.1.2特征的提取和压缩 一种特征提取方法是用数据的统计法来提取最重要的特征。这些特征按其重要性排列,不太重要的特征则可去掉。另一种提取方法是确定每一个特征对一定的分类方法的影响,对分类计算贡献太小的特征将被去掉。虽然在模式识别领域中,特征提取是最经深入研究的一个内容,但至今没有一个统一的理论方法。在模式识别中,在保证分类的前提下,应使特征数减少到最小,也就是进行特征的压缩。特征的压缩一般基于以下两个理由1)应尽可能删除与分类问题不相干的特征。因为这些特征会干扰分类结果和加大计算工作。同样的理由,相关特征也应删掉。2)特征数(f)应大大小于样本数(n),最好满足n/f10,至少满足n/f3。6.1.3主成分分析法(PCA-PrincipalComponetAnalysis)主成分分析法是一种多元统计分析技术,其目的是将数据降维,以排除众多信息中相互重叠的信息。它是将原变量进行转换,将原变量进行线性组合成新变量,这些变量尽可能地表征原变量的数据结构而不丢失信息。主成分分析法的原理是对多维空间作Karhunen-Loeve变换,即将样本通过一正交线性变换成两两正交的新变量T=XP(5)T为主成分(也称得分矢score)变量,X为样本特征变量矩阵,P为正交变换矩阵,由相互正交的矢量pi构成,主成分ti可由下式得到ti=Xpi(6)由T的性质,ti满足以下关系E?tiT,ti?=?Ii=j(7)E?tiT,ti?=0i?j(8)具体计算步骤如下:设有m个变量的N的样本观测值,数据矩阵(标准化)为(1)计算协方差阵?的估计值?=(Sij)=S其中(2)用Jacobi方法求S的特征根?i和相应的特征矢量li(i=1,?,m)(3)写出各主成分表达式6.1.4偏最小二乘法(PLS-PartialLeastSquare)在主成分分析法中,对矩阵X的本征矢或因子数测试中,所处理的仅为X矩阵,而不考虑目标矩阵Y的信息。事实上,Y中也可能包含非有用信息。偏最小二乘法正是在测试X的同时考虑Y的作用。将样本矩阵X和目标矩阵Y作双线性分解X=TPT+E(9)Y=UQT+F(10)其中,T,U分别是X,Y的得分矩阵,PT,QT分别是X,Y的负载矩阵,E,F是相应的残差矩阵。这样,在X的分解过程中引入Y的信息,同样在Y的分解过程中也引入了X的信息,即要求X的得分矢量t和Y的得分矢量u有最大重叠,故有u=bt+e(11)(9)和(10)称为外部关系,(11)称为内部关系。具体算法如下:若X和Y均已经过标准化处理。对于每一主成分(1)令ustart=yi对于X块:(2)w’=u’X/u’u(3)w’new=w’old/||w’old||(归一)(4)t=Xw/w’w对于Y块:(5)q’=t’Y/t’t(3)q’new=q’old/||q’old||(归一)(4)u=Yq/q’q收敛测试:(8)将(4)所得t与前一次迭代相比较,若相等(包括一定的舍入误差),则转到(9),否则到(2)[若Y仅有一变量,则跳过(5)~(8),并设q=1]。计算X的负载,并重新标准化得分及权重:(9)q’=t’X/t’t(10)q’=q’old/||q’old||(归一)(11)t’new=t’old||p’old||(12)w’new=w’old||p’old||,(p’,q’和w’用于预测;t和u用于分类)。计算回归系算b以用于内部关联:(13)b=u’t/t’t对于主成分h计算残差:(14)Eh=Eh-1-thph’;X=E0(12)(15)Fh=Fh-1-bhthqh’;Y=F0(13)之后,回到(1),进行下一个主成分。6.1.5降维映照中的逆映射方法用模式识别方法对高维空间的原始训练样本集?Ri?进行适当变换,并映射到二维空间可研究样本的特征和分类标准等。同时,也常常希望能用原始变量描