公共基础要求掌握部分修约方法及数值运算规则1数值修约规则.doc

公共基础要求掌握部分修约方法及数值运算规则1数值修约规则.doc

  1. 1、本文档共10页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
公共基础要求掌握部分修约方法及数值运算规则1数值修约规则

公共基础 要求掌握部分 修约方法及数值运算规则 数值修约规则(GB8170—87) 本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值.需要修约时,除另有规定者外,应按本标准给出的规则进行。 1 术 语 1.1修约间隔 系确定修约保留位数的一种方式.修约间隔的数值一经确定,修约值即应为该数值的整数倍 。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到 “ 百 ” 数位。 1.2 有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为350×10 2 ;若有三个无效零,则为两位有效位数,应写为35×10 3 。 例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.3 0.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1) 1.4 0.2单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 例如,将832修约到 “ 百 ” 数位的0.2单位,得840(修约方法见本规则5.2) 2 确定修约位数的表达方式 2.1 指定数位 a. 指定修约间隔为10 n (n为正整数),或指明将数值修约到n位小数; b. 指定修约间隔为1,或指明将数值修约到个数位; c. 指定修约间隔为10 n ,或指明将数值修约到10 n 数位(n为正整数),或指明将数值修约到 “ 十 ” , “ 百 ” , “ 千 ” ……数位。 2.2 指定将数值修约成n位有效位数 3 进舍规则 3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中, “ 特定时 ” 的涵义系指修约间隔或有效位数明确时。 3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10 -1 ) 拟修约数值  修约值 1.050     1.0 0.350     0.4 例2:修约间隔为1000(或10 3 ) 拟修约数值  修约值 2500     2×10 3 (特定时可写为2000) 3500     4×10 3 (特定时可写为4000) 例3:将下列数字修约成两位有效位数 拟修约数值  修约值 0.0325    0.032 32500    32×10 3 (特定时可写为32000) 3.4 负数修约时,先将它的绝对值按上述3.1~3.3规定进行修约,然后在修约值前面加上负号。 例1:将下列数字修约到 “ 十 ” 数位 拟修约数值  修约值 -355     -36×10(特定时可写为-360) -325     -32×10(特定时可写为-320) 例2:将下列数字修约成两位有效位数 拟修约数值  修约值 -365     -36×10(特定时可写为-360) -0.0365    -0.036 4 不许连续修约 4.1 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按第3章规则连续修约。 例如:修约15.4546,修约间隔为1 正确的做法: 15.4546→15 不正确的做法: 15.4546→15.455→15.46→15.5→16 4.2 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。 4.2.1报出数值最右的非零数字为5时,应在数值后面加 “ (+) ” 或 “ (-) ” 或不加符号,以分别表明

文档评论(0)

sunshaoying + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档