有效数字及其运算.pptx

  1. 1、本文档共9页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

有效数字及其运算5

有效数字及其运算有效数字任何一个物理量,其测量结果必然存在误差。因此,表示一个物理量测量结果的数字取值是有限的。我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字。

有效数字及其运算确定测量结果有效数字对于标明误差的仪器,应根据仪器的误差来确定测量值中可疑数的位置。仪器的正确测读仪器正确测读的原则是:读出有效数字中可靠数部分是由测量的大小与所用仪器的最小分度来决定。可疑数字由介于两个最小分度之间的数值进行估读,估读取数一位(这一位是有误差的)。

有效数字及其运算确定测量结果有效数字测量结果的有效数字由误差确定不论是直接测量还是间接测量,其结果的误差一般只取一位。测量结果有效数字的最后一位与误差所在的一位对齐。如L=(83.87±0.02)cm是正确的,而L=(83.868±0.02)cm和L=(83.9±0.02)cm都是错误的。

有效数字及其运算有效数字的位数与十进制的单位变换无关。末位“0”和数字中间的“0”均属于有效数字。如23.20cm;10.2V等,其中出现的“0”都是有效数字。小数点前面出现的“0”和它之后紧接着的“0”都不是有效数字。如0.25cm或0.045kg中的“0”都不是有效数字,这两个数值都只有两位有效数字。关于“0”的问题

有效数字及其运算数字取舍规则8.0861→8.098.0845→8.088.0861→8.098.0845→8.08例如,将下列数据保留到小数点后第二位:有效数字尾数的舍入遵循四舍六入五成双的方法。即欲舍去数字的最高位为4或4以下的数,则“舍”;若为6或6以上的数,则“入”;被舍去数字的最高位为5时,前一位数为奇数,则“入”,前一位数为偶数,则“舍”,即通过取舍,总是把前一位凑成偶数。

有效数字及其运算加减运算修约为:50.1+1.4+0.6=52.1例:计算50.1+1.45+0.5812=?先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。6

有效数字及其运算乘除运算修约为:0.0121×25.6×1.06=?例:计算0.0121×25.64×1.05782=?先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。6计算后结果为:0.3283456,结果仍保留为三位有效数字。记录为:0.0121×25.6×1.06=0.328

专业课程感谢观看主讲曹慧慧

文档评论(0)

方世玉 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

版权声明书
用户编号:6101050130000123

1亿VIP精品文档

相关文档