回归分析方法.pdf

第八章 回归分析方法 当人们对研究对象的内在特性和各因素间的关系有比较充分的认识时，一般用机理分 析方法建立数学模型。如果由于客观事物内部规律的复杂性及人们认识程度的限制，无法 分析实际对象内在的因果关系，建立合乎机理规律的数学模型，那么通常的办法是搜集大 量数据，基于对数据的统计分析去建立模型。本章讨论其中用途非常广泛的一类模型—— 统计回归模型。回归模型常用来解决预测、控制、生产工艺优化等问题。 变量之间的关系可以分为两类：一类叫确定性关系，也叫函数关系，其特征是：一个 变量随着其它变量的确定而确定。另一类关系叫相关关系，变量之间的关系很难用一种精 确的方法表示出来。例如，通常人的年龄越大血压越高，但人的年龄和血压之间没有确定 的数量关系，人的年龄和血压之间的关系就是相关关系。回归分析就是处理变量之间的相 关关系的一种数学方法。其解决问题的大致方法、步骤如下： （1）收集一组包含因变量和自变量的数据； （2 ）选定因变量和自变量之间的模型，即一个数学式子，利用数据按照最小二乘准则 计算模型中的系数； （3 ）利用统计分析方法对不同的模型进行比较，找出与数据拟合得最好的模型； （4 ）判断得到的模型是否适合于这组数据； （5 ）利用模型对因变量作出预测或解释。 应用统计分析特别是多元统计分析方法一般都要处理大量数据，工作量非常大，所以 在计算机普及以前，这些方法大都是停留在理论研究上。运用一般计算语言编程也要占用 大量时间，而对于经济管理及社会学等对高级编程语言了解不深的人来说要应用这些统计 方法更是不可能。 MATLAB等软件的开发和普及大大减少了对计算机编程的要求，使数据分 析方法的广泛应用成为可能。 MATLAB统计工具箱几乎包括了数理统计方面主要的概念、理 论、方法和算法。运用 MATLAB统计工具箱，我们可以十分方便地在计算机上进行计算，从 而进一步加深理解，同时，其强大的图形功能使得概念、过程和结果可以直观地展现在我 们面前。本章内容通常先介绍有关回归分析的数学原理，主要说明建模过程中要做的工作 及理由，如模型的假设检验、参数估计等，为了把主要精力集中在应用上，我们略去详细 而繁杂的理论。 在此基础上再介绍在建模过程中如何有效地使用 MATLAB软件。没有学过这 部分数学知识的读者可以不深究其数学原理，只要知道回归分析的目的，按照相应方法通 过软件显示的图形或计算所得结果表示什么意思，那么，仍然可以学到用回归模型解决实 际问题的基本方法。包括：一元线性回归、多元线性回归、非线性回归、逐步回归等方法 以及如何利用 MATLAB软件建立初步的数学模型，如何透过输出结果对模型进行分析和改 进，回归模型的应用等。 8.1 一元线性回归分析 回归模型可分为线性回归模型和非线性回归模型。非线性回归模型是回归函数关于未 知参数具有非线性结构的回归模型。某些非线性回归模型可以化为线性回归模型处理；如 果知道函数形式只是要确定其中的参数则是拟合问题，可以使用 MATLAB软件的 curvefit 命令或 nlinfit 命令拟合得到参数的估计并进行统计分析。本节主要考察线性回归模型。 一元线性回归模型的建立及其 MATLAB实现 其中 0 ， 1 是待定系数，对于不同的 x,y是相互独立的随机变量。 假设对于 x 的 n 个值 x ，得到 y 的 n 个相应的值 y ，确定 ， 的方法是根据最小二 i i 0 1 乘准则，要使 Q Q 取最小值。利用极值必要条件令 0, 0 ，求 ， 的估计值 ? ， ? ，从而得到回 0 1 0 1