测量误差及数据处理方法 j计量培训.ppt

2 有效数字运算规则 １、加减运算 尾数对齐：在小数点后所应 保留的位数与诸量中小数点 后位数最少的一个相同。 § 1.5 有效数字及其运算 例： 33. 2 +3.22=36. 4 12.567-1. 23 =11. 34 1.2345+5. 11 -2.141=4. 20 ２、乘除运算 位数取齐：诸量相乘除，结 果的有效数字位数，一般与 各个量中有效数字位数最少 的一个相同。 § 1.5 有效数字及其运算 例： 1.11 × 2.0 = 2.2 3.248 ÷ 1.61 = 2.02 3 、某些常见函数运算的有效位数 （ 1 ）对数函数 y =ln x , y =log x 计算结果尾数的位数取得与真数的 位数相同； （ 2 ）指数函数 y=a x 结果的有效数字，可与指数的小数 点后的位数相同； （ 3 ）三角函数按角度的有效位数来定； （ 4 ）常数的有效位数可以认为是无限 的，运算中应多取 1 位； § 1.5 有效数字及其运算 4 、混合运算规则 当进行加减乘除混合运算 时，应按加减规则、乘除规 则和函数运算规则逐步计算， 最后得到计算结果。 § 1.5 有效数字及其运算 3 不确定度和测量结果 的数字化整规则 （ 1 ）不确定度的有效位数 1~2 位 本书约定不确定度只保留 1 位。 相对不确定度 1~2 位。 尾数采用 四舍 六入 五凑偶 （ 2 ）最佳值或测量值末位与不确 定度对齐。 § 1.5 有效数字及其运算 § 1.6 常用数据处理方法 1. 列表法 2. 作图法 3. 数学方法（逐差法、最小二乘法等） § 1.6 数据处理方法 数据处理是一个对数据进行加工的过 程。常用的数据处理方法有以下三类： ▲列表法 § 1.6 数据处理方法 例：用读书显微镜测量圆环直径 测量圆环直径 D 仪器：读数显微镜 Δ ins =0.004mm 测量次序 i 左读数 /mm 右读数 /mm 直径 D i /mm 1 12.764 18.762 5.998 2 10.843 16.838 5.995 3 11.987 17.978 5.996 4 11.588 17.584 5.996 5 12.346 18.338 5.992 6 11.015 17.010 5.994 7 12.341 18.335 5.994 直径平均值 D/mm 5.995 标题：说明表 格内容 附加说明：实 验仪器、条件 等 各个栏目标明 名称和单位 原始数据 注意数据纪录 的顺序 计算的中间结 果数据 例题：伏安法测电阻实验数据表 § 1.6 数据处理方法 U ( V ) 0.74 1.52 2.33 3.08 3.66 4.49 5.24 5.98 6.76 7.50 I ( mA ) 2.00 4.01 6.22 8.20 9.75 12.00 13.99 15.92 18.00 20.01 ▲作图法 优点：能形象直观地显示物理量之间的函数关系 § 1.6 数据处理方法 8.00 4.00 20.00 16.00 12.00 18.00 14.00 10.00 6.00 2.00 0 2.00 4.00 6.00 8.00 10.00 1.00 3.00 5.00 7.00 9.00 I (mA) U (V) 1. 选择合适的坐 标纸 3. 标实验点 4. 连成图线 5. 标出图名及注解 电阻伏安特性曲线 作图法步骤： 一般选用直角坐标纸。 选择图纸时以不损失实验数 据的有效位数并能包括所有 实验点为限度。 2. 确定坐标轴， 选择合适的坐标 分度值 注意： 坐标分度时，忌用 3 、 7 等进行分度； 坐标分度可不从零开始； 尽可能使图线充满图纸。 注意： 连线时应该使用相应的工具； 通常连线是平滑的； 要注意剔除错误的数据点； 直线尽量通过（ x, y ）这一点。 ▲图解法 利用已做好的图线，我们可以定量地求 得待测量或得到经验公式。 § 1.6 数据处理方法 从图中取两点可以计算出直线的斜率和 截距，从而也就可以得到经验公式。 如本例，由图上 A 、 B 两点可得被测电阻 R 为： ) k ( 379 . 0 76 . 2 58 . 18 00 . 1 00 . 7 ? ? ? ? ? ? ? ? A B A B I I U U R I (mA) U (V) 8.00 4.00 20.00 16.00 12.00 18.00 14.00 10.00 6.00 2.00 0 2.00 4.00 6.00 8.00 10.00 1.00 3.00 5.00 7.00 9.00 电阻伏安特性曲线 A (1.00,2.76) B (7.00,18.58) § 1.6 数据处理方法 由图上 A