第三章函数逼近与曲线拟合-上海海事大学选读.ppt

当S(x)选择为多项式时,称为多项式拟合. 最小二乘拟合,特别是多项式拟合, 是最流行的数据处理方法之一. 它常用于把实验数据(离散的数据)归纳总结为经验公式(连续的函数), 以利于进一步的推演分析或应用. 如果记: 类似于平方逼近得法方程(P92): 超定方程组的最小二乘解 设Ax=b中A=(aij)m×n,b是m维已知向量, x是n维解向量. 当mn时, 即方程组中方程的个数多于未知量个数时, 称此方程组为超定方程组或矛盾方程组. 一般说, 超定方程组无解. 但有时需要寻找一个“最近似”的解. 记r=b-Ax, 定义使‖r‖2为最小的解x*为Ax=b的最小二乘解. 关于超定方程组的最小二乘解有如下定理 定理 x*为Ax=b的最小二乘解的充要条件为 ATAx*=ATb. 以上定理说明求解超定方程组 Ax=b 的最小二乘解可转化为求解它对应的正规方程组ATAx*=ATb. ATA是对称正定的系数阵,此方程组可用平方根法或SOR方法求解. 证明 多项式拟合最小二乘 如 ?k(x) = xk 仍假设有已知数据组(xi ,yi) (i=0,1,2,…,m). 现求作一个不超 过n(nm)次多项式 使得 记 ri = yi -Sn(xi) (i=0,1,2,…,m), r=(r0,r1,…,rm)T, 不难看出以上多项式最小二乘拟合问题就是求解关于 ak(k=0,1,…,n) 的超定方程组. 把ak当作变量, 上述方程组的矩阵记法为 是一个超定方程组. 由定理可得对应的正规方程组 以上的∑记号均为从0 到 m 求和, 记 ; 则上式可改写为 通过解该正规方程组便可解出ak , 从而确定出拟合多项式Sn(x). 多项式拟合的一般方法可归纳为： (1) 根据具体问题, 确定拟合多项式的次数n； (2) 计算 (3) 写出正规方程组 (4) 解正规方程组,求出a0,a1,…,an； (5) 写出拟合多项式Sn(x) 解 首先作平面散点图如下： 从图中观察,这5个点大致在一条抛物线的附近,可考虑用二次多项式 进行拟合。 y x 1 2 3 4 5 1 2 3 4 5 6 7 8 9 10 0 然后计算正则方程组(m=4) 设正规方程组的解为： 则以此解为系数的多项式 就是最小二乘拟合多项式。 例 设5组数据如下表, 用一多项式对其进行拟合。 的系数如下表： 用高斯-若当无回代消去法解此方程组, 得a0=13.454, a1=-3.657,a2=0.272。 正则方程组为 最小二乘拟合多项式为： 非线性曲线转化为线性: 有些非线性曲线可以转化为线性,从而用线性拟合进行处理,比如： 例3:已知数据为 x 1 2 3 4 5 6 7 8 y 15.3 20.5 27.4 36.6 49.1 65.6 87.8 117.6 求一个形如 y=aebx的经验公式 (a, b为常数). 解:两边取对数得： i xi yi Yi xi2 xiYi 0 1 15.3 2.7279 1 2.7279 1 2 20.5 3.0204 4 6.0408 2 3 27.4 3.3105 9 9.9315 3 4 36.6 3.6000 16 14.4000 4 5 49.1 3.8939 25 19.4695 5 6 65.6 4.1836 36 25.1016 6 7 87.8 4.4751 49 31.3257 7 8 117.6 4.7673 64 38.1384 ∑ 36 29.9787 204 147.1354 解该方程组的 A=2.4368,b=0.2912 由A=lna,即得a=eA=11.436 9 所以,经验公式为：y=11.4369e0.2912x 法方程组： 根据给定节点 x0 , x1 , …, xm及权函数ω(x) 0 ， 正交的多项式 {Pn(x)} 。注意n≤m，用递推公式表示Pk(x ) ， 即 (k=0,1,…,n?1) 其中 Pk (x)是首项系数为1 的k 次多项式，且 用正交函数作最小二乘拟合 法方程组系数矩阵是病态的， 但如果?0(x), ?1(x) ….?n(x) 是关于点集{x i}(i =0,1,…, m) 带权 ω(xi) (i =0,1,…, m) 正交的函数族， 即 则法方程的解为 (k=0,1,…,n) 且平方误差为 证明：用归纳法 当j = k 时 当j = k ?1时 当0 j k ?1时 当j = 0 时 故 (Pj, Pk+1) = 0 (j = 0,