数值修约规则概要.ppt

  1. 1、本文档共44页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
数值修约规则概要

GB8170-87《数值修约规则》 二OO八年十一月 数值修约 一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运算规则 一、数值修约的概念及意义 测量及测量结果 数值修约的概念及意义 1. 测量、测量结果 (1)测量、测量结果 测量是以确定量值为目的的一组操作。量值是由一个数(值)乘以测量单位所表示的特定量的大小。 测量有间接和直接之分:直接测量的结果可直接测到而不必通过函数计算;而间接测量的结果需将直接测量的结果代入函数计算才能得到。 由测量所得的赋予被测量的值称为测量结果。 例如,用分析天平称得一个试样的质量为 1.1080g, 1.1080g就是一个测量结果。 由测量与测量结果的概念可看出,测量结果可表示如下: 测量结果=数(值)×单位量值 根据误差公理,测量总是存在误差的,测量结果只能是接近于测量真值的估计值,因而表示测量结果的数(值)是含有误差的数(值), 就是说,表示测量结果的的数值是一个近似值。 2. 数值修约的概念及意义 (1)数值修约的概念 对某一表示测量结果的数值(拟修约数),根据保留位数的要求,将多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数)来代替原来的数,这一过程称为数值修约。 (2)数值修约的意义 a.出于准确表达测量结果的需要。 测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多, 但具体测量的精度是确定的,就是说表示合理表征测量结果的数字个数应是确定的,最终提供的测量结果应合理反映这一点,故此,通过对计算方法和直接测量得到的数据的分析,得到合理的保留位数,将多余的数字进行取舍以得到合理反映测量精度的测量结果,即进行数值修约就非常必要。另外,即使采用直接测量,有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。 b.在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低计算出错的机会。 如:4.78961×2.13×102.4387926=? 若不先进行数值修约就直接计算,繁琐且容易出错。若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,计算也就不容易出错。 二、数值修约的基础知识 1. 有效数字 2 修约间隔 3.修约数位及确定修约位数的表达方式 1. 有效数字 1.1有效数字 有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。 我们来看前面的测量结果1.1080g,组成数字1、1、0、8、0都是实际测读到的,它们是表示试样质量大小的,因而都是有实际意义的。 有效数字的前几位都是准确数字,只有最后一位是可疑数字。 如前述的1.1080, 前几位数字1、1、0、8都是称量读到的准确数字,而最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说可疑的。 有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。 例1:数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。 测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体现。 例如前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。 2.2 有效数字位数的确定原则 由于有效数字的位数反映了测量结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产活动中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精度度。另外,能够正确判定表示测量结果的数中那些数字是有效数字,确定有效数字位数就显得非常重要。这也是在计量认证过程中,有效数字位数的确定往往成为考核内容之一的原因。 在确定有效数字位数时应遵循下列原则: (1)数值中数字1~9都是有效数字。 (2)数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。判定如下: 1) “0”在数字前,仅起定位作用,不是有效数字。 如,0.0257中, “2”前面的两个“0”均非有效数字。 0.123、0.0123、0.00123中“1”前面的 “0”也均非有效数字。 2)数值末尾的“0”属于有效数字。 如0.5000中, “5”后面的三个“0”均为有效数字;0.5000中,

文档评论(0)

shuwkb + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档