主成分分析 KeYan.ppt

x1：农林牧渔服务业 x2：地质勘查水利管理业 x3：交通运输仓储和邮电通讯业 x4：批发零售贸易和餐食业 x5：金融保险业 x6：房地产业 x7：社会服务业 x8：卫生体育和社会福利业 x9：教育文艺和广播 x10：科学研究和综合艺术 x11：党政机关 x12：其他行业 选自1998年我国31个省、市、自治区的数据。以旅游外汇收入（百万美圆）为因变量。自变量的单位为亿元人民币。数据略。 Intercept Coefficients -205.236 116.8459 -1.75646 0.096008 ? 标准误差 t Stat P-value X Variable 1 -1.40045 22.8676 -0.06124 0.951842 X Variable 2 2.675001 18.57508 0.14401 0.887092 X Variable 3 3.300877 2.464556 1.339339 0.197128 X Variable 4 -0.94402 1.296117 -0.72834 0.475774 X Variable 5 -5.5016 4.508593 -1.22025 0.238117 X Variable 6 4.054434 3.953745 1.025467 0.318728 X Variable 7 4.142 5.069984 0.816965 0.42463 X Variable 8 -15.3649 10.82589 -1.41927 0.172905 X Variable 9 17.36766 8.35337 2.079121 0.052178 X Variable 10 9.078883 10.14728 0.894711 0.38275 X Variable 11 -10.58 5.610696 -1.88569 0.075582 X Variable 12 1.350709 5.001504 0.27006 0.790186 这个模型是不理想的，一个最严重的问题是多重共线性的问题。 线性回归模型的方差分析表 方差来源 自由度 离差 平方和 方差 F统计量 显著性 水平 回归分析 12 974178.3 10.51335 8.15025E-06 残差 18 1667899 92661.04 总计 31　 利用主成分的互不相关性来建立应变量与主成分的回归，在理论上可以达到消除多重共线性。 二、主成分回归方法 原始数据观测矩阵 主成分系数矩阵 主成分得分矩阵 根据最小二乘估计，则 基于协方差矩阵的主成分回归 基于相关系数矩阵的主成分回归 主成分回归系数的协方差矩阵 1、经济分析数据Y：进口总额 X1：GDP X2：积累总额 X3：消费总额 求进口总额与GDP、积累总额和消费总额之间的回归方程。 三、主成分回归的实例 data a; input x1-x3 y; cards; 149.3 4.2 108.1 15.9 161.2 4.1 114.8 16.4 171.5 3.1 123.2 19.0 175.5 3.1 126.9 19.1 180.8 1.1 132.1 18.8 190.7 2.2 137.7 20.4 202.1 2.1 146.0 22.7 212.4 5.6 154.1 26.5 226.1 5.0 162.3 28.1 231.9 5.1 164.3 27.6 239.0 0.7 167.6 26.3 ; proc reg outest=b; model y=x1-x3/pcomit=1,2 outvif; proc print data=b; proc standard data=a out=c mean=0 std=1; var x1-x3 y; proc princomp data=c out=d prefix=z; var x1-x3; proc reg data=d; model y=z1 z2/noint; run; Analysis of Variance