- 1、本文档共19页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
数值修约(培训课件)
;课程目标;主要内容;一、术语定义;2、修约间隔:修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取相当于将数值修约到一位小数。(0.32 → 0.3)
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。(367 → 4x102);二、数值修约规则;1、确定修约间隔;2、进舍规则;2.4 拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。
例1:修约间隔为10-1(或0.1)
拟修约值 修约值
1.050 10X10-1 (特定场合可写成为1.0)
0.35 4X10-1 (特定场合可写成为0.4)
例2:修约间隔为103(或1000)
拟修约值 修约值
2500 2X103 (特定场合可写成为2000)
3500 4X103 (特定场合可写成为4000)
例3:工厂实例 与平时的“四舍五入”的区别?
;2.5 负数修约时,先将它的绝对值按2.1 ~2.4的规定进行修约,然后在所得值前面加上负号。
例1:将下列数字修约到“十”数位:
拟修约值 修约值
-355 -36X10(特定场合可写成为-360)
-325 -32X10 (特定场合可写成为-320)
例2:将下列数字修约到三位小数,即修约间隔为10-3:
拟修约值 修约值
-0.0365 -36X10-3 (特定场合可写成为-0.036)
-0.0335 -34X10-3 (特定场合可写成为-0.034)
;课间回顾;3、不允许连续修约;3.2 在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。
3.2.1 报出数值最右的非零数字为5时,应在数值右上角加“+”或加“-”或不加符号,分别表明已进行过舍、进或未舍未进。
例:16.50+表示实际值大于16.50,经修约舍弃为16.50;16.50- 表示实际值小于16.50,经修???进一为16.50。;3.2.2 如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有“-”者舍去,其他仍按《进舍规则》的规定进行。
例:将下列数字修约到个位数(报出值多留一位至一位小数)。
实测值 报出值 修约值
15.4546 15.5- 15
-15.4546 -15.5- -15
16.5203 16.5+ 17
-16.5203 -16.5+ -17
17.5000 17.5 18;课后回顾;4、0.5单位修约与0.2单位修约;4.2 0.2单位修约
0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。
0.2单位修约方法如下:将拟修约数值X乘以5,按指定修约间隔对5X依《进舍规则》的规定修约,所得数值(5X修约值)再除以5。
例:将下列数字修约到“百”数位的0.2单位修约。
拟修约数值X 5X 5X修约值 X修约值
830 4150 4200 840
842 4210 4200 840
8
文档评论(0)