无约束多维最优化选.ppt

bandem %香蕉最优化展示 expo-style banana optimization 例２：Matlab编程求解 2 非线性最小二乘 函数 lsqnonlin 格式 x = lsqnonlin(fun,x0) %x0为初始解向量；fun为f(x) i=1,2,…,m，fun返回向量值F，而不是平方和值，平方和隐含在算法中，fun的定义与前面相同。 x = lsqnonlin(fun,x0,lb,ub) %lb、ub定义x的下界和上界： x = lsqnonlin(fun,x0,lb,ub,options) %options为指定优化参数，若x没有界，则lb=[ ]，ub=[ ]。 [x,resnorm] = lsqnonlin(…) % resnorm=sum(fun(x).^2)，即解x处目标函数值。 [x,resnorm,residual] = lsqnonlin(…) % residual=fun(x)，即解x处fun的值。 [x,resnorm,residual,exitflag] = lsqnonlin(…) %exitflag为终止迭代条件。 [x,resnorm,residual,exitflag,output] = lsqnonlin(…) %output输出优化信息。 [x,resnorm,residual,exitflag,output,lambda] = lsqnonlin(…) %lambda为Lagrage乘子。 [x,resnorm,residual,exitflag,output,lambda,jacobian] =lsqnonlin(…) %fun在解x处的Jacobian矩阵。 3 非负线性最小二乘 命令格式为: （1）x= fminunc（fun,X0 ）；或x=fminsearch（fun,X0 ） （2）x= fminunc（fun,X0 ，options）； 或x=fminsearch（fun,X0 ，options） （3）[x，fval]= fminunc（...）； 或[x，fval]= fminsearch（...） （4）[x，fval，exitflag]= fminunc（...）； 或[x，fval，exitflag]= fminsearch （5）[x，fval，exitflag，output]= fminunc（...）； 或[x，fval，exitflag，output]= fminsearch（...） 标准型为：min F(X) matlab解多元函数无约束优化问题 3.算法思想 4. 单纯形概念 （1）例 （2）单纯形的定义 5.如何构造单纯形? 6.单纯形加速法的几何解释 劣点 形心点 反射点 延伸点 ——形心 7.单纯形加速法的步骤 h 例:用单纯形加速法解 h h h h (一)、线性最小二乘法 (二)、非线性最小二乘法 1.改进的Gauss-Newton法 2.Levenberger-Marquart方法 7.10 最小二乘法 一、线性最小二乘法 1. 问题 2. 性质 2. 性质 例 解 二、非线性最小二乘法 1.一般形式： 3.改进的Gauss-Newton法： 性质: 三、Levenberger-Marquart方法 有约束线性最小二乘的标准形式为 sub.to 其中：C、A、Aeq为矩阵；d、b、beq、lb、ub、x是向量。 在MATLAB5.x中，约束线性最小二乘用函数conls求解。 三、最小二乘法的Matlab求解 1 约束线性最小二乘 函数 lsqlin 格式 x = lsqlin(C,d,A,b) %求在约束条件 下，方程Cx = d的最小二乘解x。 x = lsqlin(C,d,A,b,Aeq,beq) %Aeq、beq满足等式约束 若没有不等式约束，则设A=[ ]，b=[ ]。 x = lsqlin(C,d,A,b,Aeq,beq,lb,ub) %lb、ub满足 若没有等式约束，则Aeq=[ ]，beq=[ ]。 x = lsqlin(C,d,A,b,Aeq,beq,lb,ub,x0) % x0为初始解向量，若x没有界，则lb=[ ]，ub=[ ]。 x = lsqlin(C,d,A,b,Aeq,beq,lb,ub,x0,options) % options为指定优化参数 [x,resnorm] = lsqlin(…) % resnorm=norm(C*x-d)^2，即2-范数。 [x,resnorm,residual] = lsqlin(…) %