线性回归的问题和分析方法扩展.ppt

*一、问题的提出误差项正态分布假设也不一定成立。误差项不服从正态分布时，称“非正态误差项”影响：统计推断、假设检验的有效性等，相关统计推断、检验结论的可靠性降低。第31页,共46页，星期六，2024年，5月*二、误差项正态性的检验（一）直方图检验类似“高尔顿板”第32页,共46页，星期六，2024年，5月*（二）偏斜度和峰度检验“偏斜系数”：用代替，用代替。“峰度”指标：其中用代替。，第33页,共46页，星期六，2024年，5月*第四节最大似然估计一、最大似然估计的原理二、两变量线性回归模型参数的最大似然估计三、多元线性回归模型参数的最大似然估计四、随机解释变量模型的最大似然估计五、最大似然估计的性质第34页,共46页，星期六，2024年，5月*一、最大似然估计的原理根据事物出现的概率（几率、可能性）的大小，推断事物的真相，包括定性的和定量的（参数水平）真相。例1：一个老战士和一个军训学生各射击一次，但只有一枪中靶。问可能是谁打中的。第35页,共46页，星期六，2024年，5月*例2：观测到一个服从未知参数的泊松分布的随机变量的10个数据的样本，这些数据分别为5、0、1、2、3、2、3、4、1、1，要求估计出该泊松分布的未知分布参数。根据泊松分布的概率公式，该随机变量的数值为的概率为10个数据出现的联合分布概率为第36页,共46页，星期六，2024年，5月*这个联合分布概率就是生成上述10个数据的似然函数，记作，即它的对数似然函数是（对数函数的单调性）求导可得的最大似然估计必须满足所以。第37页,共46页，星期六，2024年，5月*二、两变量线性回归模型参数的最大似然估计设模型为根据误差项服从正态分布的假设，有因此这个模型参数的似然函数是第38页,共46页，星期六，2024年，5月*对数似然函数为最大化的一阶条件为第39页,共46页，星期六，2024年，5月*解一阶条件方程组可以得到最大似然估计为第40页,共46页，星期六，2024年，5月*三、多元线性回归模型参数的最大似然估计模型为其中似然函数为对数似然函数为第41页,共46页，星期六，2024年，5月*求导可得解这个方程组可得第42页,共46页，星期六，2024年，5月*四、随机解释变量模型的最大似然估计只讨论解释变量的分布满足下面两个条件的模型（1）随机解释变量的多元密度函数的参数中，不包含需要估计的模型参数、或前者的部分。（2）和分布独立。第43页,共46页，星期六，2024年，5月*似然函数为因为仍然成立，因此对数似然函数为第44页,共46页，星期六，2024年，5月*五、最大似然估计的性质（1）最大似然估计是一致估计，即（2）最大似然估计渐近于正态分布，即（3）最大似然估计是渐近有效的，且达到克拉美-劳下界。（4）不变性：如果是的最大似然估计，那么也是的最大似然估计。第45页,共46页，星期六，2024年，5月感谢大家观看第46页,共46页，星期六，2024年，5月关于线性回归的问题和分析方法扩展**第一节多重共线性一、问题的性质和种类二、多重共线性的危害三、发现和检验四、多重共线性的克服和处理第2页,共46页，星期六，2024年，5月*一、问题的性质和种类1、严格多重共线性模型设定问题识别问题2、近似多重共线性主要是数据问题，也有模型设定问题第3页,共46页，星期六，2024年，5月*二、（近似）多重共线性的危害*随着多重共线性程度的提高，参数方差会急剧上升到很大的水平，理论上使最小二乘法估计的有效性、可靠性和价值都受到影响，实践中参数估计的稳定性和可靠程度下降。*证明：把矩阵分为根据分块矩阵的运算法则有第4页,共46页，星期六，2024年，5月*其逆矩阵左上角的首项为其中因此参数的最小二乘估计的方差为第5页,共46页，星期六，2024年，5月*三、发现和检验（一）方差扩大因子检验（二）状态数检验第6页,共46页，星期六，2024年，5月*（一）方差扩大因子检验分析已知记为，为。第