统计分析模型诊断.ppt

《统计与数量分析》 第1讲 1.3 模型诊断 I 普通最小二乘 */*  普通最小二乘 相关系数 相关系数（Correlation Coefficient）是度量两个变量之间线性相关的方向和强度的测度。 散点图只是粗略地刻画两个变量之间线性相关关系的方向、强度和形式，不能确切地度量变量之间的相关关系的密切程度。相关系数可以具体度量变量之间的相关关系的密切程度，并且用一个相对数数值表述出来，使之具有直接的可比性。 一般使用样本统计量来估计总体相关系数的数值水平，有 相关系数所反映的是线性相关关系。 该相关系数是数值型变量的统计量。 */*  普通最小二乘 相关系数是总体相关系数真值的样本统计量。因此，相关系数只是总体相关系数的在一定样本分布下的估计值，尤其是当计算相关系数的样本容量较小时，相关系数的数值的变异增大。所以，必须对不同样本容量情况下计算出来的相关系数的统计显著性进行假设检验。 有假设 相关系数的抽样分布，服从于自由度为n-2的t分布。一般采用T检验统计量对相关系数进行显著性检验， */*  普通最小二乘 一元线性回归模型 1．理论模型 从回归模型的一般形式可以表述为 回归模型（Regression Model）是指因变量依赖自变量和随机误差项取值的方程。 因变量的取值由两个部分构成。一部分反映了自变量的变动引起的线性变化；另一部分为剩余变动，反映了不能为自变量和因变量之间的线性关系所解释的其它剩余的变异。 在理论上，回归分析总是假定一元线性回归模型，即具有统计显著性，有效地解释了因变量的变动，剩余变动为不可观测的随机误差。因此，上式为一元线性回归理论模型。 */*  普通最小二乘 关于随机误差，线性回归理论模型具有以下三项假定。 （1） 0均值。剩余变动为不可观测的随机误差，其数学期望为0。 （2）方差齐性。对于所有的自变量x，随机误差的方差相同。 （3）独立性。各项随机误差之间，以及各项随机误差与对应的自变量之间均不相关，即有 */*  普通最小二乘 2．回归方程 根据回归理论模型中对随机误差的三项假定，有 因此有变量的数学期望为自变量的线性函数。 回归方程（Regression Equation）是指因变量y的数学期望依赖自变量x取值的方程。 有一元线性回归方程为 一元线性回归方程在直角坐标系中为一条直线，所以也称为直线回归方程。 */*  普通最小二乘 3．估计的回归方程 由回归方程中可知，当回归系数确定之后，可以计算出因变量在给定自变量数值时的数学期望。在回归方程中的回归系数和随机误差的方差均为未知，需要利用样本数据进行统计估计。当根据样本推断出回归方程中的回归系数的估计量时，就得到了由样本推断出来的估计的回归方程。 估计的回归方程（Estimated Regression Equation）是指根据样本数据的估计量构成的回归方程。 估计的一元线性回归方程为 当估计的一元线性回归方程式中的自变量给定某一具体数值时，因变量的对应的取值，也就随之确定下来了。 */*  普通最小二乘 一元线性回归方程的最小二乘估计 最小二乘估计（Least Square Estimation）是指估计量使因变量的观察值与其估计值的离差平方和最小的方法。这里介绍的是普通最小二乘估计（Ordinary Least Square Estimation, OLSE）。 根据回归方程和最小二乘估计定义，一元线性回归方程关于回归系数估计量的解为非负二次函数，必然存在最小值。 因而，可以得出求解一元线性回归方程回归系数估计量的正规方程组，并利用离差平方和的形式，可写为 计算得到的就是一元线性回归方程回归系数的普通最小二乘估计（OLS）估计量。