最小二乘法几何基础.pdfVIP

最小二乘法的几何基础 1 1 薛树强 党亚民 （1 中国测绘科学研究院，北京市海淀区莲花池西路28 号，100830） 摘 要：本文介绍了最小二乘法的Hilbert 空间几何学基础，研究了最小二乘解的几何公式， 最后给出了最小二乘精度和可靠性指标的体积度量公式。研究表明，最小二乘法具有广泛的 几何基础，其精度与可靠性数值指标可归纳为一组矩阵体积公式。 关键词：最小二乘 正交投影 几何公式 矩阵体积 1. 引 言 从大量观测中获取所研究问题的最佳结果是测量的重要任务，最小二乘法作为“观测组 合”的重要工具，具有深刻的代数意义、统计意义和几何意义。在最小二乘法创立前，数学 家欧拉（1749 年）、天文学家梅耶（1750 年）和数学家拉普拉斯（1787 年）都曾尝试利用 组合方法解决矛盾方程组[1] 。1805 年，勒让德在先驱者解线性方程组的基础上，从代数学角 度基于总体均衡误差的思想创立了最小二乘法，随后，高斯立足于寻找随机误差函数，以独 特的概率思想导出了正态分布，最终将最小二乘理论推进到了崭新的高度。 一些学者利用 Hilbert 空间知识，对最小二乘问题的几何性质、解的存在性、公式推导 等进行了大量研究，得出了一些重要研究成果[2] 。本文从几何学角度，系统研究了最小二乘 问题的几何原理、最小二乘解的几何公式、精度评定与可靠性的体积公式等，基于矩阵体积 的概念，最终将最小二乘问题的精度与可靠性数值指标表示为一组形式一致的体积公式。 2. 最小二乘问题的几何原理 2.1 最小二乘问题 集合X 在实数域R 上的线性空间称为实线性空间。n 维向量x ∈X 在线性映射矩阵 m×n [3-4] A ∈R 作用下全体像的集合称为矩阵A 的值域R (A) （列空间或流形） ，即 R (A) ≡ y Ax | x =∈X { } 对于线性方程组Ax L （m ≥n ，r (A) n ），若L ∉R (A) ，则该线性方程组为矛盾 线性方程组。如图1 所示，方程组的矛盾性体现在观测向量L 不属于线性流形空间R (A) 。 从张量分析角度，矛盾方程组的观测向量 L 不存在由矩阵A 列向量所构成的坐标标架的一 n c 组坐标唯一表示，即对于任意的x ∈R ，不等式∑A x ≠L 恒成立。 i i i i 1 L V ˆ L R (A) 图1 欧氏空间中的最小二乘问题 Fig.1 Least Square problem in Euclidean Space 2.2 最小二乘法的几何基础 [5] m×n m×1