数据处理、测量误差及不确定度.doc

数据处理、测量误差 及不确定度 第一节 数据处理 一、有效数字 1、（末）的概念 所谓（末），指的是任何一个数量末一位数字所对应的单位量值。例如：用分度值为1mm的钢卷尺测量某物体的长度，测量结果为19.8mm，最末一位的量值0.8mm，即为最末一位数字8与其所对应的单位量值0.1mm的乘积，故19.8mm的（末）为0.1mm。 2、有效数字的概念 人们在日常生活中接触到的数，有准确数和近似数。对于任何数，包括无限不循环小数，截取一定位数后所得的数即是近似数。同样，根据误差公理，测量总是存在误差，测量结果只能是一个接近于真值的估计值，其数字也是近似数。 例如：将无限不循环小数：π=3.14159……截取到百分位，可得到近似数3.14，则此时引起的误差绝对值为 |3.14－3.14159……|=0.00159…… 近似数3.14的（末）为0.01，因此0.5（末）=0.5×0.01=0.005，而0.00159……＜0.005，故近似数3.14的误差绝对值小于0.5（末）。 由此可以得出关于近似数有效数字的概念：当该近似数的绝对误差的模小于0.5（末）时，从左边的第一个非零数字算起，直到最末一位数字为止的所有数字。根据这个概念，3.14有3位有效数字。 测量结果的数字，其有效位数代表结果的不确定度。例如：某长度测量值为19.8mm，有效位数为3位；若是19.80mm，有效数为4位。它们的绝对误差的模分别小于0.5（末），即分别小于0.05mm和0.005mm。 显而易见，有效位数不同，它们的测量不确定度也不同，测量结果19.80mm比19.8mm的不确定度要小，同时，数字右边的“0”不能随意取舍，因为这些“0”都是有效数字。 二、近似数运算 1、加、减运算 如果参与运算的数不超过10个，运算时以各数中（末）最大的数为准，其余的数均比它多保留一位，多余位数应舍去。计算结果的（末），应与参与运算的数中（末）最大的那个数相同。若计算结果尚需参与下一步运算，则可多保留一位。 例如：18.3Ω+1.4546Ω+0.876Ω→ 18.3Ω+1.45Ω+0.88Ω=20.63Ω≈20.6Ω 计算结果为20.6Ω。若尚需参与下一步运算，则取20.63Ω 2、乘、除（或乘方、开方）运算 在进行数的乘除运算时，以有效数字位数最少的那个数为准，其余的数的有效数字均比它多保留一位。运算结果（积或商）有效数字位数，应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算，则有效数字可多取一位。 例如：1.1m×0.3268m×0.10300m→ 1.1m×0.327m×0.103m=0.0370m3≈0.037m3 计算结果为0.037m3。若需参与下一步运算，则取0.0370m3。 乘方、开方运算类同。 三、数据修约 1、数据修约的基本概念 对某一拟修约数，根据保留数位的要求，将其多余位的数字进行取舍，按照一定的规则，选取一个其值为修约间隔整数倍的数（称为修约数）来代替拟修约数，这一过程称为数据修约，也称为数的化整或数的凑整。为了简化计算，准确表达测量结果，必须对有关数据进行修约。 修约间隔又称为修约区间或化整间隔，它是确定修约保留位数的一种方式。修约间隔一般在k×10n（k =1，2，5；n为正、负整数）的形式表示，人们经常将同一k值的修约间隔，简称为“k”间隔。 修约间隔一经确定，修约数只能是修约间隔的整倍数。例如：指定修约间隔为0.1，修约数应在0.1的整倍数的数中选取；若修约间隔为2×10n，修约数的末位只能是0，2，4，6，8等数字；若修约间隔为5×10n，则修约数的末位数字必然不是“0”，就是“5”。 当对某一拟修约数进行修约时，需确定修约数位，其表达形式有以下几种： ①指明具体的修约间隔； ②将拟修约数修约至某数位的0.1或0.2或0.5个单位； ③指明按“k”间隔将拟修约数修约为几位有效数字，或者修约至某数位，有时“1”间隔可不必指明，但“2”间隔或“5”间隔必须指明。 2、数据修约规则 我国的国家标准GB8170-87《数值修约规则》，对“1”、“2”、“5”间隔的修约方法分别作了规定，使用时比较繁锁，对“2”和“5”间隔的修约还需进行计算，下面介绍一种适用于所有修约间隔的修约方法，只需直观判断，简便易行： ①如果为修约间隔整倍数的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。 例如：将1.150001按0.1修约间隔进行修约。此时，与拟修约数1.150001领近的为修约间隔整数倍的数有1.1和1.2（分别间隔0.1的11倍和12倍）。然而只有1.2最接近拟修约数，因此1.2就是修约数。 又如：要求将1.1015修约至十分位的0.2个单位。此时，修约间隔为0.02，