[信息与通信]第3章 1逼近拟合中的基本概念.ppt

逼近拟合中的基本概念 刘兴霞 引言 插值问题中 控制误差的度量标准 几个概念 常用范数 其它概念 内积的概念 有关定理(证明见P66) 权函数的概念 定义 设 称 为函数 在区间[a,b]上的内积. 其中 为区间[a,b]上的权函数,且满足下面两个条件: 函数的欧几里得范数 定义 设 称 为函数f(x)的欧几里得范数,或2范数. 数据拟合 函数逼近 最佳一致逼近 最佳平方逼近 超定方程组的最小二乘解 多项式拟合 广义多项式拟合 * 称为格拉姆(Gram)矩阵，则G非奇异的充分必要条件是u1,…,un线性无关 函数内积的定义 容易验证,上述定义的函数内积满足一般内积概念中四条基本性质. 仍然是已知 x1 … xm ; y1 … ym, 求一个简单易算的近似函数 P(x) ? f(x)。 但是 ① m 很大； ② yi 本身是测量值，不准确，即 yi ? f (xi) 这时没必要取 P(xi) = yi , 而要使 P(xi) ? yi 总体上尽可能小。 常见做法： ? 使 最小 / minimax problem / 太复杂? ? 使 最小 不可导，求解困难? ? 使 最小 / Least-Squares method / 最小二乘拟合多项式 / L-S approximating polynomials / 对应法方程（或正规方程组/normal equations/）为： 回归系数 / regression coefficients / 定理5. 证明：记法方程组为 Ba = c . 则有 其中 对任意 ，必有 。 若不然，则 存在一个 使得 … 即 是 n 阶多项式 的根 则 ? B为正定阵，则非奇异，所以法方程组存在唯一解。 定义 　　　线性无关/ linearly independent/函数族{ ?0(x), ?1(x), … , ?n(x), … } 满足条件：其中任意函数的线性组合 a0?0(x)+a1?1(x)+… +an?n(x)=0 对任意 x?[a, b]成立 当且仅当 a0= a1=… =an=0。 定义 　　　考虑一般的线性无关函数族?={ ?0(x), ?1(x), … , ?n(x), … }，其有限项的线性组合 称为广义多项式 / generalized polynomial /. 常见广义多项式： ? { ?j(x) = x j } 对应代数多项式 / algebraic polynomial / ? { ?j(x) = cos jx }、{ ?j(x) = sin jx } ? { ?j(x), ?j(x) }对应三角多项式 / trigonometric polynomial / ? { ?j(x) = , ki ? kj } 对应指数多项式 / exponential polynomial/ 定义 广义 L-S 拟合： ① 离散型 /*discrete type */ 在点集{ x1 … xm } 上测得{ y1 … ym }，在一组权系数{ w1 … wm }下求广义多项式 P(x) 使得误差函数 ? 最小。 ? = - = n i i i i y x P w 1 2 ] ) ( [ ② 连续型 /*continuous type */ 已知 y(x) ?C[a, b] 以及权函数 ?(x)，求广义多项式 P(x) 使得误差函数? = 最小。 dx x y x P x b a 2 )] ( ) ( [ ) ( - ? r 内积与范数 离散型 连续型 则易证( f, g ) 是内积，而 是范数。 ( f, g )=0 表示 f 与 g 带权正交。 广义 L-S 问题可叙述为：求广义多项式P(x)使得 最小。 n k y a k n j j j k , ... , 0 , ) , ( ) , ( 0 = = ? =