线性回归分析基础.ppt

无偏性第三节最小二乘估计量的性质第一章一元线性回归分析基础*指β*1和β*2的期望值分别等于总体参数β1和β2。1即E(β*1)=β1E(β*2)=β2E(β*2)=E(β2+∑btut)2=β2+∑btE(ut)3=β2E(β*1)=E(β1+∑atut)4=β15最优性第三节最小二乘估计量的性质第一章一元线性回归分析基础*三、最优性指最小二乘估计β*1和β*2在各种线性无偏估计中，具有最小方差。1.先求β*1和β*2的方差var(β*2)=var(∑btYt)=∑bt2var(β1+β2Xt+ut)=∑bt2var(ut)=∑(Xt/∑Xt2)2σ2=σ2/Xt2var(β*1)=var(∑atYt)=∑at2var(β1+β2Xt+ut)=∑at2var(ut)=∑[(1/n)-bt]2σ2=σ2(1/n+2/∑Xt2)证明最小方差性第三节最小二乘估计量的性质第一章一元线性回归分析基础*2.证明最小方差性假设β**2是其他方法得到的关于β2的线性无偏估计β**2=∑ctYt其中，ct=bt+dt，dt为不全为零的常数则容易证明var(β**2)≥var(β*2)同理可证明β1的最小二乘估计量β*1具有最小方差。高斯—马尔可夫定理(Gauss-Markovtheorem)：满足性质1、2、3的最小二乘估计量是最优线性无偏估计量（bestlinearunbiasedestimator：BLUE）第四节系数的显著性检验第一章一元线性回归分析基础*误差项方差估计对比总体回归模型和样本回归模型，可以看出，残差et可以看做误差项ut的估计值。计算如下：第四节系数的显著性检验第一章一元线性回归分析基础*参数估计的显著性检验第四节系数的显著性检验第一章一元线性回归分析基础*在上一节中，已经证明，由于最小二乘估计β*1和β*2具有线性特性，所以β*1和β*2均为Yt的线性组合。01因为Yt服从正态分布，所以作为Yt的线性组合的β*1和β*2也服从正态分布。02由无偏性，证明了β*1和β*2的期望分别为总体参数β1和β2。在证明最优性的过程中又得到β*1和β*2的方差。03第四节系数的显著性检验第一章一元线性回归分析基础*因此，可以得到β*1和β*2的抽样分布为由于真实的σ2不知，用它的无偏估计量S2=∑et2/(n-2)替代时，可构造如下统计量：检验步骤：第一章一元线性回归分析基础*对总体参数提出假设H0：?2=0，H1：?2?001以原假设H0构造t统计量，并由样本计算其值02第四节系数的显著性检验第一章一元线性回归分析基础*t?/2(n-2)给定显著性水平?，查t分布表，得临界值01若|t|t?/2(n-2)，则拒绝H0，接受H1；若|t|?t?/2(n-2)，则拒绝H1，接受H0；对于一元线性回归方程中的?1，可构造如下t统计量进行显著性检验：(4)比较，判断02第四节系数的显著性检验第一章一元线性回归分析基础*总体参数的置信区间总体参数β1和β2的置信区间分别为第四节系数的显著性检验第一章一元线性回归分析基础*决定系数由样本回归模型和样本回归方程，可以得到这个恒等式把被解释变量的总偏差分解成相应的可解释偏差(回归偏差)和残差(随机偏差两部分之和，如下图：第四节系数的显著性检验第一章一元线性回归分析基础*图1—5被解释变量偏差的分解01Xt02O03X04y0506Yt07第四节系数的显著性检验第一章一元线性回归分析基础*记总体平方和（TotalSumofSquares）回归平方和（ExplainedSumofSquares）残差平方和（ResidualSumofSquares）TSS=ESS+RSS可以证明第四节系数的显著性检验第一章一元线性回归分析基础*由正规方程组第四节系数的显著性检验第一章一元线性回归分析基础*所以即TSS=ESS+RSSY的观测值围绕其