《模式识别》课程实验设计matlaab.docVIP

《模式识别》课程实验设计（matlaab） 1 线性分类器设计 2 1.1 ESM 2 1.2单层感知器 4 1.3 SVM 5 2 1_k近邻法 8 2.1 问题 8 2.2 思路 8 2.3结果 8 2.4 代码 10 2.5 讨论 19 3 剪辑法 19 3.1 问题 20 3.2 思路 20 3.3结果 20 3.4 代码 21 3.5 讨论 31 4 ANN-BP神经网络法 32 4.1 问题 32 4.2 思路 32 4.3结果 32 4.4代码 33 4.5讨论 39 5 聚类分析法 39 5.1 问题 39 5.2 思路 39 5.3 结果 39 5.4 代码 39 5.5 讨论 41 6 特征选择 41 6.1 问题 41 6.2 思路 41 6.3 结果 41 6.4 代码 41 6.5 讨论 43 7 特征提取 43 7.1 问题 43 7.2 思路 43 7.3 结果 43 7.4 代码 44 7.5 讨论 46 1 线性分类器设计 1.1 ESM 1.1.1 问题 对于twotwolarge.m文件里的数据，用最小二乘法进行两分类。 1.1.2 思路及框图 1.1.3结果 1.1.4程序代码 %ESM代码，见ses_pct_svm.m文件 y=ones(100,1); for i=46:100 y(i,1)=-1;end; w=inv(x*x)*(x)*y; r5=[-w(3)/w(1),0]; r6=[0,-w(3)/w(2)]; figure(1); plot(r1,r2,*,r3,r4,o,r5,r6); axis([0,12,0,8]); hold on; %ESM代码结束 1.1.5讨论 1.当训练样本较大的时候，(inv(X*X))*X计算很复杂，可以采用梯度下降法求解。 2.Y的选取可以利用样本在两类里的数目进行比例取值，对于样本数较多的类，先验知识较多，yi可以取小。 1.2单层感知器 1.2.1问题 对于twotwolarge.m文件里的数据，用单层感知器进行两分类。 1.2.2思路及框图 1.2.3结果 1.2.4程序代码 %单层感知机函数代码，见ses_pct_svm.m文件 e=0.001; wpct=rands(3,1); J=0; deltJ=zeros(3,1); for i=1:45 xtemp=[ x(i,1),x(i,2),x(i,3) ]; if (wpct*xtemp0) deltJ=deltJ+0.5*(-1)*xtemp; J=J+(-1)*wpct*xtemp; end end for i=46:100 xtemp=[ x(i,1),x(i,2),x(i,3) ]; if (wpct*xtemp0) deltJ=deltJ+0.5*xtemp; J=J+wpct*xtemp; end end while(Je) J=0; wpct=wpct-deltJ; for i=1:45 xtemp=[ x(i,1),x(i,2),x(i,3) ]; if (wpct*xtemp0) deltJ=deltJ+0.5*(-1)*xtemp; J=J+(-1)*wpct*xtemp; end end for i=46:100 xtemp=[ x(i,1),x(i,2),x(i,3) ]; if (wpct*xtemp0) deltJ=deltJ+0.5*xtemp; J=J+wpct*xtemp; end end end r5=[-wpct(3)/wpct(1),0]; r6=[0,-wpct(3)/wpct(2)]; figure(2); plot(r1,r2,*,r3,r4,o,r5,r6); axis([0,12,0,8]); hold on; %单层感知机函数代码结束 1.2.5讨论 1.感知器相当于一个神经元的神经网络。 2.能不能找到最优决策面与初始w选择有关，所以找到的w不一定是最优的。 3.满足J的w有无穷多个，不能判断哪一个最好。 1.3 SVM 1.3.1问题 对于