20-21版：§1.1 回归分析的基本思想及其初步应用.pptxVIP

20-21版：§1.1回归分析的基本思想及其初步应用

汇报人：AA

2024-01-17

回归分析概述

回归分析的基本思想

回归分析的初步应用

回归分析的检验与评估

回归分析中的常见问题及解决方法

回归分析在实际案例中的应用

contents

目

录

回归分析概述

01

回归分析是一种统计学上分析数据的方法，目的在于了解两个或多个变量间是否相关、相关方向与强度，并建立数学模型以便进行预测和控制。

通过建立一个数学模型来描述因变量和一个或多个自变量之间的关系，进而利用这个模型来预测或控制因变量的值。

回归分析的目的

回归分析定义

早期发展

回归分析最初由英国生物学家高尔顿在19世纪80年代提出，当时主要用于研究亲子间的身高关系。

逐步成熟

20世纪初，随着数理统计学的发展，回归分析的理论和方法逐渐成熟，并被广泛应用于各个学科领域。

现代发展

近年来，随着计算机技术的飞速发展和大数据时代的到来，回归分析的理论和方法得到了极大的丰富和完善，包括岭回归、Lasso回归、弹性网回归等方法的提出。

金融学

用于评估投资组合的风险和回报，以及预测股票市场的走势等。

经济学

用于分析各种经济现象之间的因果关系，如GDP与失业率、通货膨胀率等之间的关系。

医学

用于分析疾病与各种因素之间的关系，如吸烟与肺癌、肥胖与高血压等之间的关系。

工程学

用于预测和控制各种工程系统的行为和性能，如机械系统的故障预测、控制系统的参数优化等。

社会学

用于研究社会现象之间的相互影响关系，如教育水平与个人收入、城市化水平与犯罪率等之间的关系。

回归分析的基本思想

02

相关关系

回归分析研究的是变量间的相关关系，即一个变量随另一个变量的变化而变化的趋势。这种关系可以是线性的，也可以是非线性的。

因果关系

在回归分析中，我们通常假设自变量和因变量之间存在某种因果关系，即自变量的变化会导致因变量的变化。

如果变量间的关系是线性的，我们可以通过最小二乘法等方法建立线性回归方程。该方程描述了自变量和因变量之间的线性关系。

线性回归方程

如果变量间的关系是非线性的，我们需要通过适当的变换将其转化为线性关系，或者采用非线性回归方法建立非线性回归方程。

非线性回归方程

最小二乘法

最小二乘法是求解线性回归方程最常用的方法。它通过最小化残差平方和来估计回归系数，从而得到回归方程。

迭代法

对于非线性回归方程，通常采用迭代法进行求解。该方法通过不断迭代更新参数估计值，直到满足收敛条件为止。

回归分析的初步应用

03

回归方程的建立

通过最小二乘法确定多个自变量的回归系数，建立多元线性回归方程。

非线性模型的建立

根据因变量和自变量之间的非线性关系，选择合适的非线性模型进行拟合。

非线性模型的检验

通过残差分析、拟合优度检验等方法对非线性模型进行检验，判断模型是否合适。

非线性模型的预测

根据非线性模型对自变量进行预测，得到因变量的预测值。需要注意的是，非线性模型的预测结果可能受到模型选择、参数估计等因素的影响，因此需要进行谨慎分析和评估。

回归分析的检验与评估

04

F检验

通过构造F统计量，检验回归方程是否显著，即检验自变量与因变量之间是否存在显著的线性关系。

检验步骤

提出假设、构造F统计量、计算F值、查F分布表确定临界值、比较F值与临界值的大小、作出决策。

t检验

通过构造t统计量，检验每个自变量对因变量的影响是否显著，即检验回归系数是否显著不为零。

检验步骤

提出假设、构造t统计量、计算t值、查t分布表确定临界值、比较t值与临界值的大小、作出决策。

03

残差分析

通过观察残差图、计算残差平方和等方式，评估模型是否满足线性回归的前提假设，如误差项的独立性、同方差性等。

01

可决系数R^2

衡量模型对数据的拟合程度，值越接近1，说明模型的拟合效果越好。

02

调整后的可决系数R^2_adj

考虑自变量个数对R^2的影响，对模型拟合优度进行更准确的评估。

回归分析中的常见问题及解决方法

05

1

2

3

多重共线性指解释变量之间存在高度相关关系，导致模型估计失真或难以解释。

定义

通过观察解释变量的相关系数矩阵、计算方差膨胀因子（VIF）或进行条件指数（CI）分析等来判断是否存在多重共线性。

检测方法

采用逐步回归、岭回归、主成分回归等方法消除多重共线性的影响，或结合理论或经验剔除某些解释变量。

解决方法

异方差性是指随机误差项的方差随解释变量的变化而变化，不满足同方差假设。

定义

通过残差图、等级相关系数检验、怀特检验等方法判断是否存在异方差性。

检测方法

采用加权最小二乘法（WLS）、广义最小二乘法（GLS）等方法进行异方差性的修正，以获得更准确的参数估计和统计推断。

解决方法

自相关是指随机误差项之间存在相关关系，即误差项不是独立的。

定义

通过观察残差图、DW检验