33 有效数字的位数注意.docVIP

33 有效数字的位数注意 1）单位变换不影响有效数字位数。 2）pH，pM，pK，lgC，lgK等对数值，其有效数字的位数取决于小数部分（尾数）数字的位数，整数部分只代表该数的方次 3）结果数据首位为8和9时，有效数字可以多计一位 34有效数字的修约规则 四舍六入五留双”的规则进行舍取。 1. 在拟舍弃的数字中，若左边的第一个数字等于5，其右边的数字皆为零时，所拟保留的末位数字若为奇数则进一，若为偶数(包括“0”)，则不进2.在拟舍弃的数字中，若左边的第一个数字等于5，其右边的数字并非全部为零时，则进一。例如1.0501→1.1（修约为两位有效数字）。 35有效数字的运算规则 1）. 加减法 依据小数点后位数最少 2）.乘除法 依据有效数字位数最少 3）有效数字计算和取舍应该注意的几点 1）使用有效数字时，在整个测量和运算过程中保持单位一致。2）在计算过程中，为了提高计算结果的可靠性，可以暂时多保留一位有效数字位数，得到最后结果时，再根据数字修约的规则，弃去多余的数字。3）使用计算器计算定量分析结果，特别要注意最后结果中有效数字的位数，应根据前述数字修约规则决定取舍，不可全部照抄计算器上显示的八位数字或十位数字。4）常数的有效位数依据计算过程来确定。5）若某一数据中第一位有效数字大于或等于8，则有效数字的位数可多算一位。如8.15可视为四位有效数字。6）在计算中，经常会遇到一些倍数、分数，如2、5、10及12、15、110等，这里的数字可视为足够准确，不考虑其有效数字位数，计算结果的有效数字位数，应由其它测量数据来决定。 课堂练习1、下列论述中，有效数字位数错误的是：A. 3.24×10-2（3位） B. pH = 3.24 （3位）C. 0.420（2位） D. 0.1000（5位） 答案：B、C和D 2. 下面结果应以几位有效数字报出 3、一同学测得某溶液的pH = 6.24，则该数据的有效数字为 2位 4、某同学测得某式样中含铁量为0.923%，此数据的有效数字为 4 位。 课后作业 一、有效数字的修约 转化下列各记录数据为四位有效数字 3.1424； 0.52663； 3.2156； 0.38767； 5.6235； 4.6245； 10.2450； 10.2350； 3.85452； 2.6845006 二、有效数字的运算 按照有效数字运算规则，计算下列各式： 例2：分析铁矿中铁的含量，得如下数据：37.45% ，37.20%，37.50%，37.30%，37.25%。算该组数据的平均值、平均偏差、标准偏差和相对标准偏差。 课后作业 精确度和准确度的计算 某一标准样品，其浓度为0.750mg/L，以气相色谱法对其进行5次测定，其测定值分别为0.755 mg/L，0.754 mg/L，0.752 mg/L，0.755 mg/L，0.753 mg/L，求其1.算术平均值，2.几何平均值，3.绝对误差，4.相对误差，5.绝对偏差，6.相对偏差，7.极差，8.平均偏差，9.相对平均偏差，10.标准偏差，11.相对标准偏差。（计算过程中注意有效数字的保留，注意概念和单位） 5. 实例（让学生动手计算例题，掌握作题步骤。） 例：测得一组数据共六个, 分别为49.69；50.90, 48.99；51.23，51.47；48.80.计算置信区间，并描述置信区间与真值的关系(置信水平Ｐ＝９５％)。 ] 课外作业 1. 置信区间 某组分的测试结果如下：28.62％，28.59％，28.51％，28.48％，28.52％，28.63％，求置信水平为90％和95％时平均值的置信区间, 并描述置信区间与真值的关系。 2.离群值的取舍 － Q检验法 某次测定数据结果如下：2.01，1.92，2.03，2.00，2.02，2.04，试采用Q检验法分析最小值1.92是否应该保留（置信水平为90％） 3.离群值的取舍 － T检验法 某一样品的测试结果如下：4.41，4.49，4.50，4.51，4.64，4.75，4.81，4.95，5.01，5.39，试采用T检验法分析最大值5.39是否应该保留。（置信水平为95％） 四、实例计算1 解：1. 数据整理计算 2. 计算回归方程 3. 做回归直线 注意：由于截距a＝0.0023，故回归直线应通过点（0，0.0023） 4. 计算相关系数r 若取置信水平为95％，f=n-2=5-2=3，查表可得临界相关系数为0.878，由于计算的相关系数0.99940.878,因此该方程线性相关性很好。 5. 计算回归偏差 五、课后