数值修约规则与极限数值的表示和判定1课件.ppt

如果有效数字位数最少的因数的首位数大于或等于8，在积或商的运算中可多算一位有效数字。 如：9.0×0.241÷2.84 0.39×9.4×1.3=4.78 0.0386×9.4×1.33 = 0.483 * 如果有效数字位数最少的因数的首位数大于或等于8，在积或商的运算中可多算一位有效数字。 如：9.0×0.241÷2.84 * 精度为1g，感量为1g的天平，某此称量结果为121g，对不对？ 100kg台秤，max100kg，min1kg，游标5kg，每1kg分成20等份，每等份50g 4、有效数字的运算规则 乘方、开方运算 例如, 6.54 =? 进行数值乘方或开方时, 结果有效数字位数不变。 6.54 =42.8 2 2 5、几点注意 0.03865×9.4×1.327 = ？ 0.39×9.4×1.3=4.8 5、几点注意 1、计算公式中的常数如 、 等都是正确数，在运算中可以根据需要截取其有效位数 2、首位数字为8、9的数字，其有效数字可比实际的位数多一位，如8749可认为其为5为有效数字，923可认为其为4位有效数字 3、为减少数字的舍入误差，对参与运算的各有效数字进行修约时，可比实际需要多保留一位 三、数值修约的规则及技巧 1、数值修约规则 （1） 四舍六入五凑双 具体的做法是， 1、拟舍弃数字最左一位数字≤4时将其舍去； 2、拟舍弃数字最左一位数字≥6时就进一位； 3、如果拟舍弃数字最左一位数字为5而后面的数为0时，如所保留的数字的末位数字为奇数则进一，如所保留的数字的末位数字为偶数则舍去； 4、当“5”后面还有不是0的任何数时，都须向前进一位，无论前方是奇还是偶数，“0”则以偶数论。 1、数值修约规则 0.53664→0.5366 0.58346→0.5835 10.2750→10.28 16.4050→16.40 27.1850→27.18 18.06501→18.07 （2）修约间隔 0.2 、0.5…… 0.5单位修约，将拟修约数值乘以2后正常修约，得到的数再除以2。 例：修约到个数位的0.5单位： 60.25、60.38、60.75 1、数值修约规则 0.2单位修约，将拟修约数值乘以5后正常修约，得到的数再除以5。 例： 修约到百位数的0.2单位 830、842、930 （3）不可连续修约 必须注意：进行数字修约时只能一次修约到指定的位数，不能数次修约，否则会得错误的结果。 如：97.46修约到1为97 1、数值修约规则 (4)、 特殊数值的表示 报出的数值最右的非零数字为5时，应在数值右上角加“+”或“-” 或不加符号，以分别表明已进行过舍，进或未舍未进。 例：实测值 报出值 修约值 -15.4546 -15.5 -15 16.5203 16.5 17 - + 2、数值修约方法总结 （1）如果为修约间隔整数倍的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。 例：将1.150001按0.1间隔进行修约。 例：将1.0151修约至十分位的0.2个单位。 例：将1.2505按“5”间隔修约至十分位。 （2）如果在修约间隔整数倍的一系列数中，有连续的两个数同等地接近拟修约数，只有为修约间隔偶数倍的那个数才是修约数。 例：将1150按100修约间隔修约。 例：将1.500按0.2修约间隔修约。 例：将1.025按“5”间隔修约到三位有效数字。 （3）保守计算法 四、极限数值的表示和判定 1、极限数值的表示 带有极限偏差值的数值的表示 表示的含义：从79mm到82mm符合要求 2、极限数值的判定规则 1、全数值比较法： 将检验所得的测定值或其计算值不经修约处理（或可做修约处理，但应表明它是经舍、进或未舍未进而得）而用数值的全部数字与标准规定的极限数值作比较，只要越出规定的极限数值，（不论越出大小），都判定为不符合标准要求。 标准中各种极限数值（包括带有极限偏差值的数值）未加说明时，均指采用全数值比较法；如规定采用修约值比较法，应在标准中