环境数学多元线性回归(part1理论)(免费阅读).ppt

2.4 样本容量问题 样本是一个重要的实际问题，模型依赖于实际样本。 获取样本需要成本，企图通过样本容量的确定减轻收集数据的困难。 最小样本容量：满足基本要求的样本容量 2.4 样本容量问题 最小样本容量 n ≥ k+1 (X`X)-1存在 ? | X`X | 0 ? X`X 为k+1阶的满秩阵 R(AB) ≤ min(R(A),R(B)) R(X) ≥ k+1 因此，必须有n≥k+1 2.4 样本容量问题 满足基本要求的样本容量 一般经验认为： n ≥ 30或者n ≥ 3(k+1)才能满足模型估计的基本要求。 n ≥ 3(k+1)时，t分布才稳定，检验才较为有效。 3.1 拟合优度检验 3.2 回归方程的显著性检验（F－检验） 3.3 回归参数的显著性检验（F－检验） 3.4 拟合优度、F－检验的关系 3.1.1 拟合优度检验 －总平方和、自由度的分解 目的：构造一个不含单位，可以相互比较，而且能直观判断拟合优劣的指标。 类似于一元情形，先将多元线性回归作如下平方和分解： 总离差平方和(TSS) ＝ 回归平方和(RSS) + 残差平方和(ESS) 自由度： n-1 ＝ k + n-k-1 分解说明： ，受k+1个方程对n个Yi约束， 所以自由度为n-(k+1)=n-k-1 ， RSS = TSS - ESS，所以其自由度为k 。 3.1.1 拟合优度检验 －总平方和、自由度的分解 3.1.2 判定系数 判定系数的定义： 意义：判定系数越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在回归直线附近越密集。 取值范围：0-1 复相关系数 R 它与一元线性回归方程的单相关系数类似，用来衡量一个变量与多个变量的复相关程度。 3.1.2 判定系数 3.2 回归方程的显著性检验 检验的目的 检验Y与解释变量x1,x2,…xk之间的线性关系是否显著。 3.2 回归方程的显著性检验 检验的步骤 第一步，提出假设： 原假设：H0：b1=b2=……bk=0 备择假设：H1：bi不全为0 （i=1，２，…，k） 第二步，计算统计量： 或： 3.2 回归方程的显著性检验 第三步，查表，得： 第四步，做检验： 拒绝H0， 回归方程显著 接受H0 ， 回归方程不显著 检验 法则 3.3 回归系数的显著性检验 回归方程显著，并不意味着每个解释变量对因变量Y的影响都重要,因此需要进行检验： 回归系数检验的必要性 回归方程显著 每个回归系数都显著 回归系数检验的步骤 第一步，提出假设： 原假设：H0： bi=0 (i=1，2，……k) 备择假设：H1：bi≠0 (i=1，2，……k) 3.3 回归系数的显著性检验 第二步，构造并计算统计量 ： bi为偏回归系数 Cij为正规方程组矩阵XTX的逆矩阵 (XTX)-1的第i行第j列元素 ESS为残差平方和 第三步，查表得 ： 3.3 回归系数的显著性检验 第四步，做检验： 接受H0， 回归系数影响显著 拒绝H0 ， 回归系数影响不显著 检验 法则 3.4 关于拟合优度检验与 方程显著性检验关系的讨论 4.1 主要方法 4.2 主要用途 4.3 基本原理 4.4 检验水平 4 逐步回归分析 多元线性回归建立的回归方程包含了所有的自变量，但在实际问题中，可能有这样的情况：参加回归方程的P个自变量中，有些自变量单独看对因变量Y有作用（相关程度密切），但P个自变量又可能是相互影响的。 在作回归时，它们对因变量所起的作用有可能被其他自变量代替，而使得这些自变量在回归方程中变得无足轻重。 4 逐步回归分析 这时把这些自变量留在回归方程中，不但增加计算上的麻烦，而且不能保证有好的回归效果。为了克服这些缺点，提出了多元逐步回归。 多元逐步回归要求回归方程中包含所有对因变量作用显著的自变量，而不包含作用不显著的自变量，从而建立最优回归方程。 向前引入法（Forward） 自变量由少到多一个一个引入回归方程，将与因变量的相关系数最大的第一个自变量选入方程并进行检验，如果F值Fa ，拒绝H0 ；将其余的变量中与因变量的相关系数最大的第二个自变量选入方程，当F值Fa ，拒绝H0 ；如此下去，不断引入新的自变量，直到不能拒绝H0，再没有变量被引入为止。  局限性：即后续变量的引入可能会使先进入方程的自变量变得不重要。 4.1 逐步回归的主要方法 向后剔除法（Backward） 自变量由多到少一个一个从回归方程中剔除，首