实验优化设计-多元线性回归模型.ppt

注：课本上是F与R2的关系，因为判定系数和校正的判定系数之间的关系，所以此三者的关系的推导是很显然的。变量的显著性检验（t检验）方程的总体线性关系显著?每个解释变量对被解释变量的影响都是显著的。因此，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。这一检验是由对变量的t检验完成的。1、t统计量因此，可构造如下t统计量给定显著性水平?，可得到临界值t?/2(n-k-1)，由样本求出统计量t的数值，通过|t|?t?/2(n-k-1)或|t|≤t?/2(n-k-1)来拒绝或接受原假设H0，从而判定对应的解释变量是否应包括在模型中。H1：?i?0设计原假设与备择假设：H0：?i=0（i=1,2…k）2、t检验注意：一元线性回归中，t检验与F检验一致（不过多元的就没那么简单的关系了！）一方面，t检验与F检验都是对相同的原假设H0：?1=0进行检验;另一方面，两个统计量之间有如下关系：在中国居民人均收入-消费支出二元模型例中，由应用软件计算出参数的t值：01给定显著性水平?=0.05，查得相应临界值：t0.025(19)=2.093。01可见，计算的所有t值都大于该临界值，所以拒绝原假设。即:包括常数项在内的3个解释变量都在5%的显著性水平下显著，都通过了变量显著性检验。01第三章多元线性回归模型多元线性回归模型多元线性回归模型的参数估计多元线性回归模型的假设检验实例§3.1多元线性回归模型一、多元线性回归模型二、多元线性回归模型的基本假定多元线性回归模型:表现在线性回归模型中的解释变量有多个。一般表现形式：i=1,2…,n其中:k为解释变量的数目，?j称为回归参数（regressioncoefficient）。一、多元线性回归模型总体回归函数为:可以看到是对应于一元线形回归模型的，是一元线性回归模型的自然引申与扩展！总体回归函数的随机表达形式为?j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化;01或者说?j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。02其随机表示式:010203ei称为残差或剩余项(residuals)，可看成是总体回归函数中随机扰动项?i的近似替代。用于估计总体回归函数的样本回归函数是01假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。假设2，随机误差项具有零均值、同方差及不序列相关性。02二、多元线性回归模型的基本假定01假设3，解释变量与随机项不相关02假设4，随机项满足正态分布01普通最小二乘估计02参数估计量的性质03样本容量问题04估计实例3.2多元线性回归模型的估计01说明02估计方法：OLS（普通最小二乘法）一、普通最小二乘估计对于随机抽取的n组观测值如果样本函数的参数估计值已经得到，则有：i=1,2…n根据最小二乘原理，参数估计值应该是右列方程组的解其中于是得到关于待估参数估计值的正规方程组：解该（k+1）个方程组成的线性代数方程组，即可得到(k+1)个待估参数的估计值$,,,,,bjj=012L。k?随机误差项?的方差?的无偏估计可以证明，随机误差项?的方差的无偏估计量为：01线性性、无偏性、有效性。02------也就是满足高斯-马尔柯夫定理在满足基本假设的情况下，其结构参数?的普通最小二乘估计具有：二、参数估计量的性质所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。最小样本容量样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即n≥k+1三、样本容量问题满足基本要求的样本容量一般经验认为:当n≥30或者至少n≥3(k+1)时，才能说满足模型估计的基本要求。从统计检验的角度：n-k≥8时,t分布较为稳定模型的良好性质只有在大样本下才能得到理论上的证明3.3多元线性回归模型的统计检验213拟合优度检验方程的显著性检验(F检验)变量的显著性检验（t检验）4参数的置信区间一、拟合优度检验1、判定系数与调整的判定系数则总离差平方和的分解213由于:=0所以有：4注意：一个有趣的现象判定系数该统计量越接近于1，模型的拟合优度越高。问题：在应用过程中发现，如果在模型