四舍五入的衰落——多少算有效？.PDF

四舍五入的衰落——多少算有效？ 问：应当用多少位来表示测量或计算数据？ 答：我们可以显示和打印具有许多位的数值。我桌子上的计算器最多可以显示8位。在我的电脑中， Excel计算产生的非常大的整数最多可以显示15位，后面跟着一串0 （它无法显示美国国家债务的最后一 美分）。虽然当今的工程师拥有强大的工具，但有时候，所有这些潜在的精度可能会被滥用。 1945年，作为伍斯特理工学院的一名新生，我购买了Keuffel Esser Log-Log Duplex Decitrig计算尺，随后几 年它一直陪伴着我。利用这把计算尺，我可以计算乘法、除法、幂、根、对数、指数和三角函数量， 而且可以测量长度。虽然很低级，但它是一台真正的机械式模拟计算机。 当然，它有一些很大的（有人会这么说）局限性。它不能用来进行加法和减法运算，也不能告诉我小 数点的位置在哪里。这些局限性也有好的一面，那就是要求用户熟悉数学函数，它不停地驱使着用户 进行内在的合理性检查。在计算过程中，用户必须对每一步的结果有一个相当准确的估计，这有助于 用户提高心算能力。 它的最高精度是1/1000 ，对于当时的许多应用而言已经足够精确，甚至现在也是如此。 这不是要否定兆兆位精密计算与从亚原子超微结构到星际超大结构的科技发现和利用的几率提高之间 的有益关系。 但在出版物中，请考虑一下有效位。例如，给定的典型电路增益为 。而根据直流输入/输出图计算 5.15 的增益为： (3.3 V – 1.65 V)/0.32 V = 5.15625 。 最后，其测量值为 。在同一实例中，给定的标称失调为 ，但发表出来的测量值是 ！ 5.165 1.65 V 1.641497 V 若要使有效位保持一致，应比较标称增益 、计算增益 和测量增益 ，以及标称失调 和测 5.15 5.16 5.17 1.65 V 量失调 。有一个能以微伏精度测量 电压的电压表固然不错，但没必要如此夸耀！ 1.64 V 1.6 V 将您的数据和计算公之于众时，必须注意这一问题。取多少有效位合适，应始终根据数据的性质及其目 标用途来判断：不能太少以至于无法使用，也不能太多，以免引起混淆和对数据精度的错误解释。如果 你对这个话题不是十分清楚，请在你喜爱的有哪些信誉好的足球投注网站引擎中键入“有效位”，就可以找到大量帮助信息。