网站大量收购独家精品文档,联系QQ:2885784924

有效数字及运算法则.pptxVIP

  1. 1、本文档共10页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

第四节有效数字及运算法则

一、有效数字的一般概念例:用米尺测量物体的长度L1=L2=3.43.456563.43.4

定义:在测量结果的数字表示中,由若干位可靠数字加一位可疑数字,便组成了有效数字。上述例子中的测量结果均为三位有效数字一、有效数字的一般概念

01关于“0”的有效问题02.当“0”在数字中间或末尾时有效03如:04、05、06等中的0均有效。07注意:不能在数字的末尾随便加“0”或减“0”08数学上:09物理上:二、有效数字位数的确定

均是3位有效数字。注意:进行单位换算时,有效数字的位数不变。如:0.0123dm、0.123cm、0.00123m.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字1.关于“0”的有效问题

数据过大或过小时,可以用科学表达式。01某电阻值为20000(欧姆),保留三位有效数字时写成2.00?104?02又如数据为0.0000325m,使用科学记数法写成3.25?10-5m032.数值的科学记数法

有效数字的位数1测量值本身的大小、仪器的准确度220分度游标卡尺L=2.525cm(四位有效数字)3螺旋测微计L=2.5153cm(五位有效数字)4米尺L=2.52cm(三位有效数字)53.有效数字与仪器的关系

直接测量有效数字的确定——如何读数01用米尺测长度02例:03读数的一般规则:读至仪器误差所在的位置04

当物体长度在24㎜与25㎜之间时,01读数为24.*㎜02被测物体当读数正好为24㎜时读数为24.0㎜03

三、直接测量有效数字的确定——如何读数例:读数的一般规则:读至仪器误差所在的位置用米尺测长度用0.1级量程为100mA电流表测电流

仪=100mA×0.1%=0.1mA指针在82mA与83mA之间:读为82.*mA指针正好在82mA上:读为82.0mA对于0.1级表:

对于1.0级表指针在82mA与84mA之间:可读为82mA、83mA或84mA仪=100mA×1.0%=1mA指针正好在82mA上:读为82mA

加减法间接测量量有效数字的确定——有效数字的运算法则

—————62.5+1.234=63.762.5+1.23463.734–––––––结果为63.7–例1:

其中:试确定N的有效数字。解:(1)求出N的不确定度(2)(3)用误差(估计误差范围的不确定度)决定

结果的有效数字例2

01运算规则:间接测量量有效数字的确定——有效数字的运算法则加减法加减法运算后的有效数字,取到参与运算各数中最靠前出现可疑数的那一位。020304

—————例19.68-5.848=13.8319.68-5.84813.832––––––结果为13.83––

乘除法加减法间接测量量有效数字的确定——有效数字的运算法则

3.21?6.5=213.21?6.5—————1605––––––结果为21––1926—————20.865–––––––例4:

其中:试确定N的有效数字。解:(2)计算不确定度(1)先计算N(3)根据误差(不确定度)决定有效数字,有:例5

间接测量量有效数字的确定——有效数字的运算法则运算规则:加减法乘除法乘除运算后结果的有效数字一般以参与运算各数中有效数字位数最少的为准。2341

结果为0.9602例60121?21.843=0.96

加减法A间接测量量有效数字的确定——有效数字的运算法则乘除法乘方与开方B

结果的有效数字与其底或被开方数的有效数字位数相同。如:错误正确运算规则:1002=100?102??100=10.0????49=7.049=74.02=164.02=16.0

加减法01函数运算02间接测量量有效数字的确定——有效数字的运算法则乘除法乘方与开方03

lg1983=33.2973对数函数lgx的尾数与x的位数相同例7lg100=2.000lg1.983=0.297322714?0.2973030405060102

例802106.25=1778279.41?1.8?1060310x或ex的位数和x小数点后的位数相同(包括紧接小数点后面的0)01100.0035=1.0080961?1.00804(2)指数函数

020304050601加减法间

文档评论(0)

SYWL2019 + 关注
官方认证
文档贡献者

权威、专业、丰富

认证主体四川尚阅网络信息科技有限公司
IP属地四川
统一社会信用代码/组织机构代码
91510100MA6716HC2Y

1亿VIP精品文档

相关文档