极小化方法.ppt

非线性方程组的牛顿法 例 解非线性方程组 继续做下去，直到 时停止。 一般非线性方程组的Newton迭代法 预条件共轭梯度法MATLAB的三种调用格式: 1.不用预优矩阵的共轭梯度法 x=pcg(a,b,tol,kmax) 2.用预优矩阵的共轭梯度法 (1)x=pcg(a,b,tol,kmax,m) (2) r=chol(m) x=pcg(a,b,tol,kmax,r’,r,x0) 3.未给定预优矩阵的共轭梯度法 r=cholinc(sa,’0’) x=pcg(a,b,tol,kmax,r’,r,x0) 其他问题: 1.BCG与PBCG方法； 2.ILU技术； 即 考虑非线性方程组 在点(x0,y0)作二元Taylor展开， 令 若 设 则求解非线性方程组的牛顿迭代格式 解 Jacobi矩阵： * * 极小化方法 一、与线性方程组等价的变分问题 三、共轭梯度法(共轭斜量法) 四、预条件共轭梯度法 二、最速下降法 设x, y∈R n, 记 ( x , y) = xT y ( x, y ) = ( y, x ); ( tx, y ) = t ( x, y); ( x+ y, z ) = ( x, z ) + ( y, z ); ( x, x) ≥ 0, 且( x, x) = 0 ? x = 0; 设A是n阶对称正定阵 ( Ax, y ) = ( x, Ay ) ; ( Ax，x ) ≥0, 且( Ax, x) = 0 ? x = 0 一、与线性方程组等价的变分问题 定理1 设A =( aij )n×n为实对称正定矩阵, b , x∈R n, 则 x使二次函数 取极小值 ? x 是线性方程组Ax = b 的解。 证明: 必要性. 设 u 是 Ax = b的解 ? Au = b ? 对任意 x∈R n , 只须证明 f (x) – f (u) ≥ 0 充分性.设u使 f(x)取极小值.取非零向量 x∈R n, 对任意 t∈R , 有 令 g(t) = f( u + tx), 当 t=0 时, g(0)= f(u)达到极小值,所以 g’(0) =0,即 ( Au – b , x ) = 0 ? Au – b = 0 所以,u是方程组Ax=b的解. 二、最速下降法 三、共轭梯度法 (CG) (共轭斜量法) 公式化简 四、预条件共轭梯度法(PCG) 预条件共轭梯度法 实际计算，可通过变换，转化成用原方程组的量来计算。 预优矩阵的选取 下面介绍几种选取预优矩阵的方案: * * * *