网站大量收购独家精品文档,联系QQ:2885784924

有效数字及运算法则综述.ppt

  1. 1、本文档共25页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
有效数字及运算法则 一、有效数字位数的确定 1. 关于“ 0 ” 的有效问题 ① . 当“ 0 ” 在数字中间或末尾时有 效 如: cm . 04 12 2 50 20 m . A . 000 1 、 、 等中的 0 均有效。 注意 : 不能在数字的末尾随便加“ 0 ” 或减 “ 0 ” 8500 . 2 850 . 2 85 . 2 ? ? 数学上: 物理上: 8500 . 2 850 . 2 85 . 2 ? ? ② . 小数点前面的“ 0 ” 和紧接小 数点后面的“ 0 ” 不算作有效数 字 如: 0.0123dm 、 0.123cm 、 0.00123m 均是 3 位有效数字。 注意: 进行单位换算时, 有效数字的位数不变。 2. 数值的科学记数法 数据过大或过小时,可以 用科学表达式 。 某电阻值为 20000 (欧姆),保留三位有 效数字时写成 2.00 ? 10 4 ? 又如数据为 0.0000325m ,使用科学记数 法写成 3.25 ? 10 -5 m 4. 不确定度的表达 ? ? ) ( 单位 N u N N ? ? u(N) 取 一个 有效数字, 决定 N 的有效位 2 1 0 0 10 cm a . . ? ? cm b 01 0 02 20 . . ? ? ? 5. 相对误差的表达 % 100 ? ? ? N N E ? % . % . . 2 4 100 20 1 05 0 1 ? ? ? E % . % . . 08 0 100 100 10 008 0 2 ? ? ? E 2 位有效数 1 位有效数 三、直接测量有效数字的确定 —— 如何读数 ( 1 )用米尺测长度 读数的一般规则: 读至仪器误差所在的位置 例 1 62 . 5 + 1. 234 = 63 . 7 62.5 + 1.234 ————— 63.734 – – – – – – – 结果为 63.7 – 例 2 63 . 7 - 5. 43 = 58 . 3 63. 7 - 5. 43 ————— 58. 27 – – – – – – – 结果为 58.3 – C B A N ? ? ? 其中: 2 2 06 0 43 5 003 0 234 1 cm . . C , cm . . B ? ? ? ? 试确定 N 的有效数字。 解: ( 1 )求出 N 的不确定度 N ? 2 2 2 2 2 C A C B A N ? ? ? ? ? ? ? ? ? ? ? ( 2 ) ) cm ( . . . . N 2 304 58 43 5 234 1 5 62 ? ? ? ? ( 3 )用误差(估计误差范围的不确定度)决定 结果的有效数字 2 1 0 3 58 cm . . N ? ? 2 1 0 5 62 cm . . A ? ? 2 2 2 1 0 06 0 1 0 cm . ) . ( ) . ( ? ? ? 例 4 3.21 ? 6.5 = 21 3.21 ? 6.5 ————— 1605 – – – – – – 结果为 21 – – 1926 ————— 20.865 – – – – – – – C / AB N ? 其中: cm . . C , cm . . B , cm . . A 004 0 843 21 2 0 5 6 01 0 21 3 ? ? ? ? ? ? 试确定 N 的有效数字。 解: ( 2 )计算不确定度 N ? 65 2 843 21 004 0 5 6 2 0 21 3 01 0 2 2 2 2 2 2 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? . . . . . . C B A N C B A N ? ? ? ? ( 1 )先计算 N cm N 957 0 8 21 5 6 21 3 . . . . ? ? ? ( 3 )根据误差(不确定度)决定有效数字,有: cm N 03

文档评论(0)

jinzhuang + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档