第二十一章节数据处理.docxVIP

第二十一章数据处理、测量误差及不确定度第一节数据处理一、有效数字1. （末）的概念所谓（末），指的是任何一个数最末一位数字所对应的单位量值。例如：用分度值为0.1mm的卡尺测量某物体的长度，测量结果为19.8mm，最末一位的量值0.8mm，即为最末一位数字8与其所对应的单位量值0.1mm的乘积，故19.8mm的（末）为0.1mm.2. 有效数字的概念人们在日常生活中接触到的数，有准确数和近似数。对于任何数，包括无限不循环小数和循环小数，截取一定位数后所得的即是近似数。同样，根据误差公理，测量总是存在误差，测量结果只能是一个接近于真值的估计值，其数字也是近似数。例如：将无限不循环小数截取到百分位，可得到近似数3.14，则此时引起的误差绝对值为｜3.14—3.14159…｜=0.00159…近似数3.14的（末）为0.01，因此0.5（末）=0.5×0.01=0.005。而0.00159…0.005，故近似数3.14的误差绝对值小于0.5（末）。由此可以得出关于近似数有效数字的概念：当该近似数的绝对误差的模小于0.5（末）时，从左边的第一个非零数字算起，直到最末一位数字为止的所有数字。根据这个概念，3.14有3位有效数字。测量结果的数字，其有效位数反映结果的不确定度。例如：某长度测量值为19.8mm，有效位数为3位；若是19.80mm，有效位数为4位。它们的绝对误差的模分别小于0.5（末），即分别小于0.05mm和0.005mm。显而易见，有效位数不同，它们的测量不确定度也不同，测量结果19.80mm比19.8mm的不确定度要小。同时，数字右边的“0”不能随意取舍，因为这些“0”都是有效数字。二、近似数运算1. 加、减运算如果参与运算的数不超过10个，运算时以各数中（末）最大的数为准，其余的数均比它多保留一位，多余位数应舍去。计算结果的（末）应与参与运算的数中（末）最大的那个数相同。若计算结果尚需参与下一步运算，则可多保留一位。例如：18.3Ω+1.4546Ω+0.876Ω18.3Ω+1.45Ω+0.88Ω=20.63Ω≈20.6Ω计算结果为20.6Ω。若尚需参与下一步运算，则取20.63Ω2. 乘、除（或乘方、开方）运算在进行数的乘除运算时，以有效数字位数最少的那个数为准，其余的数的有效数字均比它多保留一位。运算结果（积或商）的有效数字位数，应与参与运算的数中的有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算，则有效数字可多取一位。例如：1.1m×0.3268m×0.10300m1.1m×0.327m×0.103m=0.0370m3≈0.037m3计算结果为0.037m3。若需参与下一步运算，则取0.0370m3。乘方、开方运算类同。三、数值修约1. 数值修约的基本概念对某一拟修约数，根据保留数位的要求，将其多余位数的数字进行取舍，按照一定的规则，选取一个其值为修约间隔整数倍的数（称为修约数）来代替拟修约数，这一过程称为数值修约，也称为数的化整或数的凑整。为了简化计算，准确表达测量结果，必须对有关数值进行修约。修约间隔又称为修约区间或化整间隔，它是确定修约保留位数的一种方式。修约间隔一般以（，2，5；为正、负整数）的形式表示。人们经常将同一值的修约间隔，简称为“”间隔。修约间隔一经确定，修约数只能是修约间隔的整数倍。例如：指定修约间隔为0.1，修约数应在0.1的整数倍的数中选取；若修约间隔为2×10n，修约数的末位只能是0，2，4，6，8等数字；若修约间隔为5×10n，则修约数的末位数字必然不是“0”，就是“5”。对某一拟修约数进行修约时，需确定修约位数，其表达形式有以下几种：（1）指明具体的修约间隔；（2）将拟修约数修约至某数位的0.1或0.2或0.5个单位；（3）指明按“”间隔将拟修约数修约为几位有效数字，或者修约至某数位，有时“1”间隔可不必指明，但“2”间隔或“5”间隔必须指明。2. 数值修约规则我国的国家标准GB 38170—1987《数值修约规则》，对“1”，“2”，“5”间隔的修约方法分别做了规定。但使用时比较繁琐，对“2”和“5”间隔的修约还需进行计算。正面介绍一种适用于所有修约间隔的修约方法，只需直观判断，简便易行：（1）如果为修约间隔整数倍的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。例如：将1.150 001按0.1修约间隔进行修约。此时，与拟修约数1.150 001邻近的为修约间隔整数倍的数有1.1和1.2（分别为修约间隔0.1的11倍和12倍），然而只有1.2最接近拟修约数，因此1.2就是修约数。又如：要求将1.0151修约至十分位的0.2个单位。此时，修约间隔为0.02，与拟修约数1.0151邻近的为修约间隔整数倍的数有1.00和1.02（分别为修约间隔的0.02的50倍和51倍