【2017年整理】有效数字及其运算规则.ppt

  1. 1、本文档共16页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
【2017年整理】有效数字及其运算规则

有效数字及计算规则 一. 有效数字 有效数字: 是在分析工作中实际测量到的数字,除最后一位是可疑的外,其余的数字都是确定的。它一方面反映了数量的大小,同时也反映了测量的精密程度。 例如, 用分析天平称NaCl1.2007g,可能 有±0.0001g的误差;用台秤称1.20g,可能 有±0.01g的误差。 注意: 数字0可以是测量得到的有效数 字,但当0只用来定位时,就不能是有效 数字,并且有效数字的位数与小数点的 位置无关。 例如: 1.2007g (五位) 0.0012007g(五位) 物体质量 有效数字位数 使用仪器 16.5g 3 台天平 16.651g 5 普通摇摆天平 16.6514g 6 分析天平 三. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。 修约规则:为四舍六入五成双(尾留双),被修约≤4,舍弃,被修约数≥6则进位,若是5将有两种情况:前面是奇数则进位为偶数,若前面是偶数则舍弃,若5后面还有不为0的数,则不管前面数字奇偶一律进位。 例如,将下列数据修约为两位有效数字 四. 有效数字的计算规则 (1) 加减法;以 小数点后位数最少的为准先修约后加减,结果位数也按点后位数最少的算。 例如, 0.0121+12.56+7.8432 可先修约后计算,即 0.01+12.56+7.84=20.41 (2) 乘除法;结果保留位数应与 有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67 可先修约后计算, (0.0142×24.4×306)/28.7=3.69。 (3) 乘方或开方;, 结果有 效数字位数不变。 例如, 6.542=42.8 (4) 对数计算;对数尾数的位数应 与真数的有效数字位数相同。 例如: (5) 表示分析结果的精密度和准确度 时, 误差和偏差等只取一位或两 位有效数字。 例如:E=0.123%表示为:0.1%或0.12% (6) 计算中涉及到常数 以及非测量 值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。 (7) 为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部 数字作为结果。 (8) 若数据进行乘除运算时, 第一位数 字大于或等于8, 其有效数字位数可 多算一位。 如9.46可看做是四位有效数字. * Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 二、有效数字位数的确定 1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有效 如: 、 、 等中的0均有效。 注意:不能在数字的末尾随便加“0”或减“0” 数学上: 物理上: Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. ②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字 如:0.0123dm、0.123cm、0.00123m 均是3位有效数字。 注意:进行单位换

文档评论(0)

liwenhua11 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档