一元线性回归模型.pptVIP

* 三、最小二乘估计量的统计性质 估计量的主要性质 OLS估计量的统计性质 无偏性 渐近无偏性 渐近有效性 有效性 线性性 一致性 无偏性 大样本性质 有效性 （最小方差性） 线性性 即样本容量趋于无穷大时，估计量 在所有的一致估计量 中具有最小的渐近方差，即： 即估计量是随机样本数据的线性函数； 即估计量的期望等于总体的真实值， 即： 即估计量 在所有线性无偏估计量 中具有最小方差，也称为最小方 差性，即： 即样本容量趋于无穷大时，估计量的期望趋于总体真实值，即： 即样本容量趋于无穷大时，估计量依概率收剑于总体的真实值，即： 其中：符号“Plim”表示概率极限，因 为随机变量没有极限值，只能求概率 极限。 线性性是指估计量 是随机变量 Yi的线性组合。 即 即在所有线性无偏估计量中，最小二乘估计量 和 具有最小方差。也就是说，如果我们能得到不同于最小二乘估计量的其他线性无偏估计量，其方差大于或者等于最小二乘估计量的方差。 由于最小二乘估计量拥有一个“好”的估计量所应具备的有限样本性质，它也拥有大样本特性，即渐近无偏性、一致性、渐近有效性。 高斯-马尔可夫定理 由以上分析可以看出，普通最小二乘估计量（ordinary least squares estimators）在经典假定下具有线性性、无偏性和最小方差性等性质，称具有这些性质的估计量为最优线性无偏估计量（ best linear unbiased estimator ，BLUE）。 高斯-马尔可夫定理（Gauss-Markov theorem） 在经典假定下，普通最小二乘估计量具有线性性、无偏性和最小方差性（ BLUE） 。 §3.2 拟合优度 如图3.2.1（a）和（b）中的直线，它们分别表示由散点表示的样本数据所对应的样本回归直线（OLS估计的样本回归直线），它们都是通过残差平方和最小而产生的直线，但是二者对样本观测值的拟合程度显然是不同的。这两条直线，谁拟合得更好？这就需要使用拟合优度的概念。 3.2.1 一、总离差平方和的分解 已知由一组样本观测值 得到如下样本回归直线： Y的第 个观测值与样本均值的离差 可分解为两部分之和 （3.2.1） （3.2.2） 图3.2.2 总离差的分解示意图 RSS称为残差平方和（residual sum of squares，RSS），反映样本观测值与估计值偏离的大小，也是模型中解释变量未解释的离差。 （3.2.7) （3.2.6) ESS称为回归平方和（explained sum of squares，ESS），反映由模型中解释变量所解释的那部分离差的大小。 TSS称为总平方和（total sum of squares，TSS），它反映样本观测值总体离差的大小。 对于所有样本点，由于 可以证明 ，所以有 记 （3.2.3) （3.2.5) （3.2.4） 二、拟合优度 ESS占Y的总离差平方和的比例,度量了回归直线对样本观测值的拟合优度。这一比例记为R2 ，被称为判定系数 （3.2.8） 如果样本回归直线与样本观测值完全拟合，或者说，所有的样本点全部落在样本回归直线上，则有R2=1。但是，由于样本的随机性，样本回归直线（或者估计的模型）与样本观测值完全拟合，亦即R2=1的情况很少发生。R2越大，说明在总变差中由回归解释的部分所占比重越大，拟合优度越高。反之，R2越小，说明估计的模型对样本观测值的拟合程度越差。 §3.3 回归参数的区间估计和假设检验 一、回归参数估计量的概率分布 的概率分布 的标准差 的标准化变换 的标准误 在ui服从正态分布的假设下，即： ui~N(0,σ2) 则Yi服从正态分布，所以 也服从正态分布，其分布特征由其均值和方差唯一决定，即 （3.3.2） （3.3.1） 于是， 的标准差分别为 （3.3.3） （3.3.4） （3.3.6） （3.3.5） 若将正态随机变量 做标准化变换 即经过标准化变换的