- 1、本文档共12页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
检验数据的处理 2015.9术语和定义 有效数字: 指在检验工作中所能得到的有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。例:在分析天平上称取试样0.5000g,这不仅表明试样的质量是0.5000g,还表示称量的误差在±0.0002g以内,如将质量记录成0.50g,则表明该试样是在台秤上称量的,其称量误差为±0.02g。 因此记录的数据的位数不能任意增加或减少。术语和定义 数值修约: 指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。 修约间隔: 是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值 修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。具体内容 有效位数的规定: 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。 例: 1:35000中若有两个无效零,则为三位有效位数,应写作350 ×102 2: 35000中若有三个无效零,则为两位有效位数,应写作350 ×103 在其他十进位数中,有效位数系指从非零数字最左一位向右数而得到的位数。 例:3.2、0.32、0.032和0.0032均为两位有效位数。0.320为三位有效数字。具体内容 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。例:分子式“H2SO4”中的“2”和“4”是个数;常数π、e和系数含量测定项下“每1ml的×××滴定液(0.1mol/L)……”中的“0.1”为名义浓度;标签规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量; 这些类型的数字有效位数均为无限多位;在计算中,其有效位数应根据其他数值的最少有效位数而定。具体内容 pH值为对数数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。 有效数字的首位数字为8或9时,其有效位数可以多计一位。例:85%与115%,都可以看成是三位有效数字。99.0%与101.0%都可以看成是四位有效数字。数值修约 指数定位:指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位;指定间隔为1,或指明将数值修约到个位数。指定修约间隔为10-n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。指定将数值修约成n位有效位数。在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常是百分位或千分位。进舍规则 运算数值保持“四舍六入五成双”规则。 负数修约时,先将其绝对值按上述规定进行修约,然后在修约值前面加上负号。相对标准偏差(RSD)中,采用“只进不舍”的原则,如:0.163%→0.17%;0.52% →0.6%。杂质项按四舍五入进舍。标准规定未修约数值修约数值结论限度实验≤0.02%0.025%0.03%不合格0.015%0.02%合格限度实验≤3ppm3.5ppm4ppm不合格3.4ppm3ppm合格进舍规则 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。 例如:正确的做法为:15.4546 →15; 不正确的做法为:15.4546 →15.455 →15.46 →15.5 →16运算规则 加减法在加减法运算中,以小数点后面有效数字位数最少的为标准。 例如:13.65+0.00823+1.633=?;在数值中13.65小数点后为二位有效数字,因此将其他各数均暂先保留至小数点后三位,即把0.00823修约成0.008,1.633不变,进行运算: 13.65+0.008+1.633=15.291最后对计算结果进行修约,15.291应只保留二位有效数字,而修约成15.29运算规则 乘除法 在乘除法运算中,保留有效数字的位数,以位数最少的为准,即以相对误差最大的数为准。 例如:14.131×0.07654÷0.78 =14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4分析结果报出的位数项目有效数字保留的位数项目有效数字保留的位数数字修约四舍六入,五后非零入,五后零留双对数与小数部分的位数相同加减法以小数点后位数最少的数据为准自然数无限多位乘除法以有效数字位数最少的数据为准误差1位,最多2位首位数字≥8多计1位分析结果≥10%1%~10%之间≤1%4位3位2位
文档评论(0)