多元回归new.pptVIP

第三章 多元线性回归 3.1 多元线性回归模型概念 3.2 多元线性回归模型的参数估计 3.3 多元线性回归模型的统计检验 3.4 多元线性回归模型的预测 3.5 数据预处理--中心化和标准化 3.6 相关阵和偏相关系数 3.7 本章小结与评注 多元线性回归引例 多元线性回归模型:表现在线性回归模型中的解释变量有多个。 一般表现形式： 二、多元线性回归模型的基本假定 假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。 假设2，随机误差项具有零均值、同方差及不序列相关性 三、多元线性回归方程的解释 二元线性回归方程为例: y为空调机的销售量，x1空调机的价格，x2消费者可支配收入。 一、普通最小二乘估计 对于随机抽取的n组观测值 四、实例分析 例3.1 SPSS分析国际旅游外汇收入输出结果 §3.3 参数估计量的性质 在满足基本假设的情况下，回归参数? 的普通最小二乘估计、最大或然估计及矩估计仍具有： 线性性、无偏性、有效性。 证明 因为 所以 §3.4 回归方程的显著性检验 （一）回归方程显著性的F检验 （二）回归系数的显著性检验 （三）回归参数的置信区间 （四）拟合优度 一、回归方程显著性的F检验 F统计量 二、回归系数的显著性检验（t检验） 方程的总体线性关系显著?每个解释变量对被解释变量的影响都是显著的 三、参数的置信区间 参数的置信区间用来考察：在一次抽样中所估计的参数值离参数的真实值有多“近”。 在变量的显著性检验中已经知道： 四、 回归拟合优度评价和决定系数 拟合优度：检验回归方程对样本观测值的拟合程度。 两变量回归决定系数的公式 * 赤池信息准则和施瓦茨准则 为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） §3.5 中心化和标准化 1）在回归分析中数据量级有很大差异； 2）设计矩阵X的列向量近似线性相关时,X’X为病态矩阵,其逆矩阵就会产生较大的误差； 此外, 方程还会受到模型关系的设定误差和其它随机因素的影响。 一、 中心化 中心化的意义 二、标准化回归系数 为了消除在回归分析中数据量纲和数量级的差异 带来的影响，对样本数据进行标准化。 标准化后回归系数具有可比使得自变量对于因变量的重要性可比。 当自变量相关会影响回归系数的大小。 §3.6 相关阵与偏相关系数 方程的复相关系数，反映了模型中被解释变量与一组解释变量之间的线性相关性，在总体上对方程是否显著成立作出推断。我们还应考虑被解释变量与每个解释变量之间以及一组解释变量相互之间的相关性，从而消除共线性，建立合理的回归模型。 由样本观测值，Xi1，Xi2， ? ，Xip， i=1,2, ?,n，分别计算Xi与Xj之间的相关系数rij，得自变量样本相关矩阵： 增广的样本相关阵:y与每个自变量的相关系数矩阵ryi 多元线性回归方程的偏相关系数指当其他解释变量固定时,给定的任两个解释变量之间的相关性，它可以度量X1，X2， ? ，Xp 和Y之中任两个变量的线性相关程度,而这种线性相关程度是固定其余p-1个变量的影响下的线性相关。先介绍偏决定系数。 一个多元线性回归模型中已含有X2， ? ，Xp 时, Y与X1的偏决定系数为: 三、偏相关系数 从偏相关系数表可以看出： 二、E(Y0)的置信区间 三、Y0的置信区间 如果已经知道实际的预测值Y0，那么预测误差为： 因此，可构造如下t统计量 显然，如果某个自变量Xi对Y的作用不显著，它的系数βi就取值为零，因此可构造如下t检验。 2、t检验 设计原假设与备择假设： H1：?i?0 给定显著性水平?，可得到临界值t?/2(n-p-1)，由样本求出统计量t的数值，通过 |ti |? t?/2(n-p-1) 或 |ti|?t?/2(n-p-1) 来拒绝或接受原假设H0，从而判定对应的解释变量是否显著，是否应包括在模型中。 H0：?i=0 （i=0,1,2…p） 注意2：多元线性回归中，t检验与F检验不一致。可以从另外一个角度考虑自变量xj的显著性。 一方面，t检验与F检验都是对相同的原假设H0：?1=0 进行检验; 另一方面，两个统计量之间有如下关系：F=t2 注意1：一元线性回归中，t检验与F检验一致 构造偏F统计量对原假设H0：?j=0 进