检验数据处理教程.pptx

  1. 1、本文档共12页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
检验数据处理教程

检验数据的处理; 有效数字: 指在检验工作中所能得到的有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。; 数值修约: 指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。; 有效位数的规定: 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。; 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。 例:分子式“H2SO4”中的“2”和“4”是个数;常数π、e和系数含量测定项下“每1ml的×××滴定液(0.1mol/L)……”中的“0.1”为名义浓度;标签规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量; 这些类型的数字有效位数均为无限多位;在计算中,其有效位数应根据其他数值的最少有效位数而定。 ; pH值为对数数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。 有效数字的首位数字为8或9时,其有效位数可以多计一位。 例:85%与115%,都可以看成是三位有效数字。99.0%与101.0%都可以看成是四位有效数字。 ; 指数定位: 指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位; 指定间隔为1,或指明将数值修约到个位数。 指定修约间隔为10-n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。 指定将数值修约成n位有效位数。 在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常是百分位或千分位。 ; 运算数值保持“四舍六入五成双”规则。 负数修约时,先将其绝对值按上述规定进行修约,然后在修约值前面加上负号。 相对标准偏差(RSD)中,采用“只进不舍”的原则,如:0.163%→0.17%;0.52% →0.6%。 杂质项按四舍五入进舍。 ; 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。 例如:正确的做法为:15.4546 →15; 不正确的做法为:15.4546 →15.455 →15.46 →15.5 →16 ; 加减法 在加减法运算中,以小数点后面有效数字位数最少的为标准。 例如:13.65+0.00823+1.633=?; 在数值中13.65小数点后为二位有效数字,因此将其他各数均暂先保留至小数点后三位,即把0.00823修约成0.008,1.633不变,进行运算: 13.65+0.008+1.633=15.291 最后对计算结果进行修约,15.291应只保留二位有效数字,而修约成15.29; 乘除法 在乘除法运算中,保留有效数字的位数,以位数最少的为准,即以相对误差最大的数为准。 例如:14.131×0.07654÷0.78 =14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4;项目

文档评论(0)

shuwkb + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档