数学地质第三章回归精讲.ppt

第三章 回归分析 自然界中的事物是相互联系的，因此反映事物的量之间存在着一定的关系。这些关系一般可分为两类：一类是完全确定的函数关系（图3-1）；另一类是无法用数学表达式精确确定的相关关系（图3-2）。 相关分析和回归分析 相关分析和回归分析是研究随机变量间相关关系的一种数学方法。前者，主要是研究随机变量之间有无相关关系及其相关程度；后者，则注重研究两个变量之间相关关系的表达形式。两者在计算方法上是十分近似的，所以一般不加区分，统称为回归分析。 回归分析是数理统计的一个重要分支，在生产和科研中有着广泛的应用。例如，求经验公式、确定最佳生产条件、进行预测等。 回归分析简介 回归分析的主要内容有以下五点： 1、从一组数据出发，确定这些变量间的定量关系； 2、对定量关系式的可信程度进行统计检验； 3、要从影响某一个量的许多变量中，判断哪些变量的影响是显著的，哪些是不显著的； 4、利用所求得的关系式进行预报和控制； 5、近代又出现试验设计等内容。 本章主要内容： 第一节 一元线性回归分析 第二节 多元线性回归分析 第三节 逐步回归分析 第一节 一元线性回归分析 一、一元线性回归的数学模型 二、参数a,b的最小二乘估计 三、回归方程的具体计算步骤 四、回归方程的显著性经验 五、利用回归方程进行预 六、一元线性回归分析小结 一、一元线性回归的数学模型 一元线性回归分析，主要是处理两个变量x、y之间的关系。两个变量之间的关系有线性和非线性两种情况，这里主要讨论线性关系及可化为线性关系的非线性情况。 一、一元线性回归的数学模型 线性关系数学模型，如 y a+bx a,b为常数 （3-1） 非线性的情况，如指数函数 （α，β为常数） （3-2） 幂函数形式 （3-3） 一、一元线性回归的数学模型 将式（3-2）及式（3-3）两边取对数，则分别为 Lny lnα+βx （3-4） 及 lny lnα+βlnx （3-5） 如果在式（3-4）中令Y lny，则Y与x即成线性关系；如果在式（3-5）中令Y lny，X lnx，则Y与X就成线性关系。此外，还有一些函数，只要经过简单变换，也可变为线性关系。这些统称为可化为线性关系的情况，只要线性情况得到解决，可化为线性的情况也就不难解决。 二、参数a,b的最小二乘估计 二、参数a,b的最小二乘估计 二、参数a,b的最小二乘估计 由图3-3可知，灰分含量和容重之间大致成一直线关系，可用y a+bx来表示，其中a，b称为参数。在此方程中，任给一组a, b，在平面上就可得到一条直线。当a，b取各种可能值时，在平面上就有许许多多的直线。究竟哪一条直线最接近于表达这一组数据所反映的两变量的相关关系呢？就需要对参数a，b进行最佳估计。 采用最小二乘法确定回归方程的系数。 二、参数a,b的最小二乘估计 设一元线性回归方程为 （3-6） a,b又称回归方程的回归系数。对于每一个，都可有式（3-6）确定一个回归值。这个回归值与现实观测值之差-，刻划了与回归直线的偏离程度。对于所有的，若与的偏离越小，则认为直线和所有的试验点拟和得越好。显然，全部观测值与回归值的离差平方和 （3-7） 刻划了全部观测值与回归直线的偏离程度。 二、参数a,b的最小二乘估计 最小二乘法，即是使Q（a，b） 最小的一种确定a和b的方法。因此，用最小二乘法配出的直线与点（ xi,yi）（i 1,2,……,n）的偏离是一切直线中最小的。由于Q（a，b）为a和b的二元二次函数，是非负的，所以它的最小值总是存在。根据微积分学中求极值原理，只要将Q分别对a、b求偏导数，然后令Q’ a,b 0,得到正规方程，要求估计值a和b是下列方程组的解： （ 3-8） 二、参数a,b的最小二乘估计 即 （3-9） 令 则式（3-9）可化为 （3-10） 二、参数a,b的最小二乘估计 由式（3-10）中第一个方程得 （3-11） 代入式（3-10）中第二个方程，解得 （3-12） 将b代入式（3-11）中，得 （3-13） 求出a，b后，即可写出x与y之间的回归方程式，为 二、参数a,b的最小二乘估计 （3-14） 假如把其代入式（3-6）中，可得到回归方程的另一种形式 （3-15） 由此可见，回归直线式（3-6）是通过（ ，），即质点组（ ）的重心。这是回归直线必须具备的特性。 三、回归方程的具体计算步骤 当收集一组实测数据之后，应确定因变量和自变量，并根据实测数据作出它们的散点图，从散点图上大致确定回归分析的数学模型，然后就可着手建立其回归方程。 三、回归方程的具体计算步骤 回归方程具体计算步骤如下： 1 根据给定数据（xi ,yi ）（i 1,2,……，n），列表计算。求出 ， 及 ,