数值线性代数 课程设计报告.doc

数值线性代数 课程设计报告 课程： 年 级： 专 业： 学 号： ： ： 师范大学数学学院3.1.1 给定矩阵及向量，确定使得 ??????? (3.1.3) 该问题称为最小二乘问题，简记为LS(Least Squares)问题，其中称为残向量。在所讨论的问题中，若线性地依赖于，则称其为线性最小二乘问题；若非线性依赖于，则称其为非线性最小二乘问题. 二、正则化方法 记最小二乘问题的解集为χLS，即 χLS={:x是LS问题（3.1.3）的解} 定理3.1.4 x∈χLS当且仅当 (3.1.5) 方程组(3.1.5)常常被称为最小二乘问题的正则化方程组，它是一个含有n个方程的线性方程组。在A的列向量线性无关的条件下，A’A对称正定，故可用平方根法求解线性方程组(3.1.5)，这样我们就得到了求解最小二乘问题最古老的算法---正则化方法，其基本步骤如下： 计算C=，d=； 用平方根法计算C的Cholesky分解：C=LL’； 求解三角方程组Ly=d和L’x=y. 三、正交变换法 设,.由于2范数具有正交不变性，故对任意的正交矩阵 Q∈R，有 这样，最小二乘问题 就等价于原最小二乘问题(3.1.3).因此，我们就可望通过适当选取正交矩阵Q，使院问题转化为较容易求解的最小二乘问题(3.1.3).这就是正交变换法的基本思想.现在考虑如何求正交矩阵Q. 定理3.3.1(QR分解定理) 设（m≥n）,则A有QR分解： （3.3.2） 其中是正交矩阵，是具有非负对角元的上三角阵；而且当m = n且A非奇异时，上述的分解还是唯一的。 我们假定已知的QR分解（3.3.2）。现将分块为 并且令 那么 由此即知，是最小二乘问题(3.1.3)的解当且仅当是的解。这样一来，最小二乘问题(3.1.3)的解就可很容易从上三角方程组求得。 综上可得正交变换法的基本步骤为： 计算A的QR分解（3.3.2）； 计算； 求解上三角方程组. 四、具体算例 令 其中k是一个大于1的参数，而 显然，矩阵A的条件数为|| A ||2|| A -1||2 = k,而最小二乘问题 r(x) = ||Ax-b|| 2= min 的唯一解为 其中u1,u2和v1,v2分别是矩阵U和V的列向量，且直接计算有 r (x*) = ||Ax* - b||2 = 61/2 注意：x* 和 r (x*)与k无关. 对k = 105 , 107, 1010分别用如下的三种方法求解这一最小二乘问题： ● 用Cholesky分解法求解正则化方程组（简记为NC）； ● 用列主元Gauss消去法求解正则化方程组（简记为NG）； ● 正交变换法（简记为QR）. 五、结果分析 计算结果列在了下表中，其中x表示计算解，x*表示精确解.从表中可以看出，随着系数矩阵条件数的增大，正则化方法得到的计算解误差越来越大，而正交变换法得到的计算解就没有受到任何影响，可见正则化方法和正交变换法之间有着明显的差异。此外，就这一例子来看，用Cholesky分解法求解正则化方程组和用列主元Gauss消去法求解正则化方程组所得结果几乎一样。 六、本次设计的总结 短短的几页纸，却花了很久的时间才做好。无论是程序的修改运行还是写报告时各种公式符号的输入，都琢磨了很长时间。也因为是第一次做矩阵计算的课程设计，很多东西不熟悉，而且自己目前所学到的知识也有限，所以是下了功夫才能出来的成果，虽然页面不太美观，但因为几乎都是自己一个字一个符号打上去或从别的文档上一个公式一个公式找了粘贴来的，还是很有成就感。可以说通过这次课程设计真的收获了很多。 这次的课程设计不仅检验了我所学习的知识，也培养了我如何去把握一件事情，如何完成一件事情通过这次设计，在多方面都有所提高。设计综合运用本专业所学课程的理论知识培养和提高， [2] 李庆扬，王能超，易大义.数值分析[M].武汉：华中科技大学出版社.2006.7 附录： %前代法 f