有效数字及运算法则.pptxVIP

有效数字及运算规则;ｃｏｎｔｅｎｔｓ;一 、有效数字：实际可以测得的数字;4.pH，pM，pK，lgC，lgK等对数值，有效数字的位数取决于小数部分（尾数）数字的位数，整数部分只代表该数的方次 例：pH=11.20→[H+]=6.3*10-12[mol/L]两位 5. 结果首位为8和9时，有效数字可以多计一位 例：9.89和10.01都算四位有效数字 ;二、有效数字的修约规则;2.只能对数字进行一次性修约 例：6.549 2.451 一次修约至两位有效数字 ↘ ↘ 6.5 2.5 3.当对标准偏差修约时，修约后会使标准偏差结果变差，从而提高可信度 例：s=0.134→修约至0.14，可信度↑;4.校准曲线 校准曲线的相关系数只舍不入，保留到小数点后出现非 9 的一位，如 0.99989→0.9998。如果小数点后都是 9 时，最多保留 4 位。 校准曲线的斜率和截距有时小数点后位数很多，最多保留 3 位有效数字，并以幂表示，如 0.0000234→2.34×10－5。 ;8;※将摄氏温度 80℃ 换成绝对温度应是 　　　80+273=353K 　而不是80+273.16=353.16K ※计算KCL和KF的精确分子量，查元素周期表： 　K=39.0983，CL=35.４53，F=18. 998４03 　它们的精确度不一样,则 　KCL的分子量为五位数 　　　　39.098+35.453=74.551（不是74.5513） 　KF的分子量为六位数 　39.0983+18.9984=58.0967(不是58.096703) ;10;?　两位数的乘除计算,但用了对数表或计算机作工具,出现了更多位数的数据 ,使不加思索地照单全收,这也是一种不 良习惯。例如,有人将比色分析的吸光度A=0.8换算成透光率T时,得出 T=10-0.8=0.1585，实应为T=0.16.。又如气相色谱分析从色谱峰高和半峰宽计算峰面积,一般只能量得二至三位有效位数,但却把乘出来的六、七位数全列在文献报告中,似乎是计算机把分析侧定的准确度给大大提高了。 ;3 .进行数值乘方或开方时, 结果有效数字位数不变。 例如, 6.542=42.8 ; 5.表示分析结果的精密度和准确度时, 误差和偏差等只取一位或两位有效数字。 6.计算中涉及到常数∏、е以及非测量值,如自然数、分数时,不考虑其有效数字的位数,视为准确数值。 7.为提高计算的准确性, 在计算过程中可暂时多保留一位有效数字, 计算完后再修约.运用电子计算器运算时, 要对其运算结果进行修约, 保留适当的位数,不可将显示的全部数字作为结果。 8.求四个或四个以上准确度接近的数值的平均值时，其有效位数可增加一位。