数值修约规则及极限数值的表示和判定剖析.ppt

数值修约规则及极限数值的表示和判定剖析.ppt

  1. 1、本文档共39页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
数值修约规则及极限数值的表示和判定剖析

GB/T8170 作者:于振凡 于振凡 中国标准化研究院 100088 北京海淀区知春路4号 电话:010-5881 1678 Email yuzhf@cnis.gov.cn GB/T 8170 –2008 第一章 数值修约规则 1 指定 修约间隔(位数) 修约间隔: 修约值的最小数值单位 指明将数值修约到n位小数 分别表示保留n位小数;保留到个位数;保留到百位数;保留到千位数;保留到万位数; ……… 欲保留部分 | 拟舍弃部分 × × × | × × × × 2.进舍规则 2.1 当拟舍弃部分的最左一位数字小于5时,则舍去。 例1:将12.1498修约,修约间隔为10-1 (修约到一位小数 ) , 得 121 ×10-1 。(特定场合可写为12.1 )。 写成121 ×10-1 表明此数值是经修约后得来的,它的修约间隔为10-1 。 在已经明确此数值是经修约后得来的情形下,可以写成12.1 。 2.2 当拟舍弃部分的最左一位数字大于5; 拟舍弃数字的最左一位数字大于5,则进一,即欲保留部分的末位数字加1。 例2:将1268修约,修约间隔102 (修约到“百”数位) , 得13 ×102(特定场合可写为1300)。 2.3 当拟舍弃部分的最左一位数字是5,且其后有非0数字时,进一,即欲保留部分的末位数字加1。 例3:将10.5002修约,修约间隔100 (修约到个数位) , 得11× 100 (特定场合可写为11 ) 2.4 当拟舍弃部分的最左一位数字为5;而右面无数字或皆为0时,若欲保留部分的末位数字为奇数(1,3,5,7,9) 则进一,为偶数(2,4,6,8,0),则舍弃。 例4 : 将12.15修约,修约间隔10-1 (修约到一位小数), 得122 ×10-1 。(特定场合可写为12.2 ) 例5 : 将12.25修约,修约间隔10-1 (修约到一位小数), 得122 ×10-1 。 (特定场合可写为12.2 ) 例6:将1268.5修约,修约间隔100 (修约到个位数 ) , 得1268 ×100 , (特定场合可写为1268 ) 。 科学记数法: 光的速度为300000000m/s,记为3e8 (3E8) 或3e+8 (3E+8) ,它的实际含义为 电子的直径为0.0000000000000000001m, 记为1e-18 (1E-18) m, a的绝对值必须是“至少1不足10”,k可以是正整数或负整数。 2.5 负数修约时,先将它的绝对值按上述规定进行修约,然后在修约值前面加上负号。 例7:将-36.45修约,修约间隔10-1 (修约到一位小数), 得-364 ×10-1 (特定场合可写为-36.4 )。 例8:将-0.00365 修约,修约间隔10-4 (修约到4位小数), 得-36 ×10-4 (特定场合可写为-0.0036 ) 。 四舍六入五考虑; 五后非零则进一; 五后皆零视奇偶; 五前为偶应舍去; 五前为奇则进一。 不允许连续修约 3.1 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按上述规则连续修约。 例1:将15.4546修约到整数。 正确的做法:15.4546→ 15 不正确的做法: 15.4546→ 15.455 15.455 → 15.46 15.46 → 15.5 15.5 → 16 15.4546→15.455 → 15.46 → 15.5 → 16 练习 1、将14.25修约,修约间隔10-1 (修约到一位小数 ) 得142 ×10-1 14.2 2、将14.24501修约,修约间隔10-2 (修约到两位小数 ) 得1425- ×10-2 14.25- 3、将14.246修约,修约间隔10-2 (修约到两位小数 ) 得1425- ×10-2 14.25- 4 报出数据 按规定报出全数观测值 按规定报出经修约后的值(3.3.2.1) 若报出经修约后的值最右的非零数字为5时,应在数值后面加 “+” 或“-”或不加符号,以分别表明已进行过舍,进或未舍未进。 例如:将16.503修约,修约间隔10-2;经修约成为16.50,表示为16.50+ ,表示实际值大于16.50,经修约舍弃成为16.50; 将16.497修约,修约间隔10-2;经修约成为16.50,表示为16.50- ,16.50-表示实际值小于16.50,经修约进一成为16.50; 这样做,为进一步修约提供依据,避免连续修约。 数字右上角的+符号表示:修约前比此值(修约后的值)的

文档评论(0)

jiayou10 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

版权声明书
用户编号:8133070117000003

1亿VIP精品文档

相关文档