有效数字及误差计算.doc

  1. 1、本文档共16页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
有效数字及误差计算有效数字及误差计算

有效数字及误差计算 一、测量 所谓测量,就是被测量的物理量和选为标准的同类量(即,单位)进行比较,确定出它是标准量的多少倍。如:测量一本书的长度,将书与米尺进行比较,书的长度是米尺的18.85%,则书的长度为0.1885m。 测量结果的数值大小和选择的单位密切相关。同样一个量,测量时选择的单位越小,测量结果数值就越大,所以任何测量结果都必须标明单位.如273.15K,3.0×108m/s等等。 二、测量分类 根据获得数据的方法不同,测量可分为直接测量和间接测量两类。 1.直接测量 直接测量:使用量具或仪表等标准量具经过比较可直接读数获取数据。相应测得量称为直接测量量。如:米尺测量长度、温度计测量温度、天平测量质量等等。 2.间接测量 间接测量:不能直接测量出结果,而必须先直接测量与它有关的一些物理量,然后利用函数关系而获取被测量数据的测量.相应的测得量就是间接测量量。如:物质的密度、物体运动的速度、物体的体积等等。 三、有效数字 测量的结果因所用单位不同而不同,但在某一单位(量具)下,表示该测量值的数值位数不应随意取位,而是要用有确定意义的表示法。 图1用毫米尺测量工件的长度 如图1是用毫米尺测量一段工件长度的示意图。此工件的长度介于13mm和14mm之间,其右端点超过13mm刻度线处,估计为6/10格,即工件的长度为13.6mm。从获得结果看,前两位13是直接读出,称为可靠数字,而最末一位0.6mm则是从尺上最小刻度间估计出来的,称为可疑数字(尽管可疑,但还是有一定根据,是有意义的)。 定义: 由几位可靠数字加上一位可疑数字在内的读数,称为有效数字。 如上读数13.6mm共有三位有效数字,这里的第三位数“6”已是估计出来的,因此,用这种规格的尺子不可能测量到以毫米为单位小数点后第2位。 注: 1、有效数字的多少,表示了测量所能达到的准确程度,这与所用的测量工具有关。 2、当被测物理量和测量仪器选定后,测量值的有效数字位数就可以确定了。 3、仪器的读数规则 测量就要从仪器上读数,读数包括仪器指示的全部有意义的数字和能够估读出来的数字。在测量中,有一些仪器读数是需要估读的,如米尺、螺旋测微计、指针式电表等等。估读时,首先根据最小分格大小、指针的粗细等具体情况确定把最小分格分成几分来估读,通常读到格值的1/10,1/5或1/2。 4、有效位数的认定 (1)数字中无零的情况和数字间有零的情况:全部给出的数均为有效数。如:56.14mm,50.007mm有效位数分别为四位、五位。 (2)对于小数末尾的零:有小数点时,小数点后面的零全部为有效数字。如:50.140mm,2.204500的有效位数分别为五位、七位。 (3)对于第一位非零数字左边的零:第一位非零数字左边的零称为无效位零。如:0.05mm,0.00155m有效位数分别为一位、三位。 (4)科学计数法:计量单位的不同选择可改变量值的数值,但决不应改变数值的有效位。因此,在变换单位时,为了正确表达出有效位数,实验中常采用科学计数法(10的幂次方)。如: 注:大单位转换小单位或小单位转换大单位时,原数的有效位不变。 四、有效数字的运算规则 0.数值的舍入修约规则 (1)确定需要保留的有效数字和位数。 (2)舍入后面多余的数字。原则-“四舍六入五凑偶”。如 → 2.7173     →7.691 →3.142      → 4.510    注:测量结果的不确定度的有效数字,“只进不舍”。如某测量不确定度的计算结果为0.32,结果表示中取0.4(结果表示式中的不确定度取1位有效数)。 1.加减法运算 和差运算的结果,其小数点以后的位数和参与运算各量中小数点位数最少的相同。如:  (354.4)      (514) 2.乘除法运算 乘除运算结果的有效位数一般和参与乘除运算各量中有效位最少者的位数相同。如 注:(1)乘法:若两因子的最高位的积大于或等于10,其结果就要多保留一位有效数字。如: (2)除法:若被除数有效数字的位数小于(等于)除数的有效数字位数,并且它的最高位的数小于除数的最高位的数,其结果的有效数字位数应比被除数少1位。如 在以上四则运算中,确定计算结果的有效数取位的原则,概括为:可靠数与可靠数运算的结果仍为可靠数;可靠数与可疑数运算的结果为可疑数;可疑数与可疑数运算的结果仍为可疑数。运算进位的数字是可靠数字。 3.乘方、开方运算 此类运算规则和乘法运算法则相同。如:     4.三角函数、对数、指数运算 (1)对数函数: 对数运算结果的有效数字,其小数点后面部分的位数与真数的位数相同。如: 若真数的第一位数大于5,运算结果的有效数字可以多取1位。如: (2)指数函数: 指数运算结果的有效数字位数与指数的小数点后的位数相同(包括小数

文档评论(0)

enxyuio + 关注
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档