取整函数在测量中的应用的研究.pdfVIP

取整函数在测量中的应用研究 李关庆 吉林油田地调处 松原 138000 前 言 随着科学技术的发展，计算机已经应用到我们生产的各 个领域，在测量内业计算领域更是离不开计算机的应用，在 计算机的许多功能中函数计算功能是经常用到的功能之一， 在我们应用函数进行计算时，就会经常用到取整函数，因此， 我们有必要对取整函数进行研究。 一。研究的意义 在取整函数应用时，数据经过取整后，住往使最后一位 小数发生变化，正是这个变化给下一步利用小数进行计算造 成很大的麻烦。例如我们在表示角度时，通常用整数表示度， 用小数点以后的第一位和第二位表示分，第三位和第四位表 示秒，编程时一般算法是把度、分，秒分别转换为弧度再应 用各种三角函数进行计算，转换步骤是先对角度进行取整， 得到整度数，再将小数部分乘100后取整得到整分数，最后 再将小数部分乘l00后得到秒数。在这里如果直接应用取整 函数，很可能就会出现错误。比如：1．27在取整后得到整度 数l后，小数变成0．269999991，这时如果按上述步骤计算， 最后得到的是1度26分99．99991秒，这样无形之中就1度 这样就出现了39．99991秒，的误差。如果39．99991秒的误 差发生在大地坐标和平面直角坐标之间的相互转换，就会造 2 成平面上l36．90米的误差。因此，取整函数如果应用得当， 就会给计算带来很大方便，如果应用不当，就会计算错误， 给生产造成不可估量的损失。 只有经过细致认真的研究取整函数才能对它有更深的了 解，才能正确利用它，避免出现问题，减小误差，为了能熟 练掌握取整函数的特·洼，准确利用取整函数进行计算，就有 必要对取整函数进行研究。 二、研究的过程 经过对带有一位和两位小数的数值进行取整，发现取整 } f —————————二—————————，———————．————．———．———．一 k ，。 ； 函数经过取整后，原数据小数点以前的整数部分没有发生变 化，小数部分的最后一位小数有时发生变化，这个变化值非常 小，在一般的计算中可以对这个变化忽略不计，而对于角度转 换确不可等闲祝之，因此下面就针对当数字表示角度时取整 函数经过应用后，小数点后面的数值发生变化对角度转换结 79 o分、1 果的影响，进行分析。这里只列举0度0分至0度2 度51分180度10分、359度40分至35 9度59分三段秒数 为0的角度。为了便于分析，以下从单精度变量和双精度变 量两方面进行举例分析、统计和研究。 下表是部分单精度变量角度在取整前后的数据、以及取 整后引起的角度误差。 部分单精度变量角度取整后误差表 取整前 取整后 取整前后 角度 角度误差(”) 0 0 O 0 0 0．01 0 l 0 0 0．02