许多变量(或变换后)之间具有(近似)线性相关关系.docVIP

许多变量(或变换后)之间具有(近似)线性相关关系, 线性回归模型最简, 理论成熟, 故首选. §2.1 线性回归模型、参数估计 1. 线性回归模型、矩阵表示 一量与诸量的相关关系(部分决定) 例(1) 体重与身高的相关关系; (2)销量与消费者年令,性别,价格相关. 通常可设 回归分析: 利用数据, 某指标下确定,预测控制等 线性回归模型: 响应变量(因变量) 回归参数(系数) 回归变量(自变量) 随机误差项 注 更注重关于参数的线性关系, 故有一般线归: 设新变量 , 则转为线性回归模型. 将观测值 写成矩阵 矩阵形式的线性回归模型 () 观测向量 设计矩阵(列满秩) 待估回归参数 随机误差向量(各量独立) 2. 参数估计及其性质 (1) 回归参数的最小二乘估计 使 最小化, 令 从而得正规方程 由满秩, 可得(惟一解,最小值存在) 回代得, 经验回归方程(回归方程) 此后, 上式表示的估计值或预测值. (2) 误差方差的估计 回代分析 对称幂等矩阵 残差向量 因由, 再回代,每行为零,故首行 残差平方和(样本方差) (利用是对称幂等矩阵) 再由得 从而 由此可得 从而得 为无偏估计. 例1设,利用,求 的最小二乘估计及的估计. 解: (注:不全同) , , 的无偏估计为 . (3) 估计量的基本性质(证略) 性质1 (i) ; (ii); (iii) . 性质2 对,若, 则 (i) (ii) (iii) 与SSE(或)相互独立. 性质3 条件同2, 残差向量具有 (i) ; (ii) (注:是一个对称幂等矩阵) 第2章 线性回归分析 第 1 页 共 13 页