[工学]多元线性回归概述.pdf

多元线性回归概述 纲要 简单线性回归 多元回归 理解回归输出 R 2 确定系数 验证回归模型 线性回归：一个例子 问题： a)如何把销售额和广告费用联系起来？ b)如果广告费用2.2百万美元，那么第一年的期望销售额是多少？ c)如何对自己的估计有信心？怎么样才是好的拟合？ 基本模型：简单线性回归 ( , x ),y( , x ),...,y ( , x )y 1 1 2 2 n n 数据： Y β +βx +ε , ε ,...,ε ε i0 1 i i 1 2 n 总体模型： ， 是服从 N(0, δ)的独立同分布随机变量，Y和x之间的确 存在关系，但我们不知道和，不得不在数据基础 上进行估计。 评述： E Y x (| x ) β +β ； i i 0 1 i SD Y( x| ) δ i i ； 线性关系——可用“直线”描述； β0 ＝是Y 的“基线”的值（就是，当x=0 时Y 的值） β1 ＝直线的斜率（x 的每个单位的变化引起Y 的 如何选择符合数据的“最好的”直线 回归系数：b0和b1是β0和β1 的估计 ^ 在处对Y 的回归估计： （预测） y b b x i0 + 1 i ^ e y ：y − 残差（误差） i i 最好的回归直线是选择b0和b1使得总的误差（残差 n n ^ 的平方和）最小： 2 2 SSR e y y − ( ) ∑ ∑i i i i 1 i 1 例子：Nature-Bar的销售额 （单位：百万美元） 多元回归 通常，除了广告费用之外还有许多因素对销售有影 响； 多元回归允许多于一个x变量； x x , x ,..., 自变量： （有k个）