浅谈用最小二乘法对电子天平示值误差校准曲线的拟合.pdfVIP

《计量与测试技术~2o15丰第42卷第12期

浅谈用最小二乘法对电子天平示值误差校准曲线的拟合

何运飞

(贵州省计量测试院，贵州贵阳550003)

摘要：本文通过运用最小二乘法的方法对电子天平校准曲线进行拟合，帮助电子天平使用厂家更好的了解电子天平的校准结果。

关键词：最小二乘法；电子天平；校准

中图分类号：P184．4+2文献标识码：A国家标准学科分类代码：460．4025

DOI：10．15988／j．cnki．1004—6941．2015．12．029

OntheMethodofLeastSquaresErrorofElectronicBalance

ShowsaCalibrationCurveFitting

HeYunfei

目前，国内技术机构对于电子天平的校准大多为点由此可得表3：

对点的给予校准结果，本文通过运用最小二乘法对电子表2

天平整个称量范围进行校准结果的线性拟合，以便于客户

在实际工作中更好的了解自己所使用的电子天平的性能。

1什么是最小二乘法

最小二乘法是一种数学优化技术，它通过以“残差

平方和最小”为条件求得最佳估计值，这是最小二乘法

原则。利用最小二乘法可以简单便捷的求得未知的数

据，并使得这些求得的数据与实际数据之间误差的平方

和为最小，最小二乘法还可以用于曲线拟合。这里我们

实验载荷，一mg30601oo1502oo

通过介绍一元线性回归分析来说明最小二乘法在电子天示值误差E／mg0．1O．30．4O．6O．9

平示值误差校准曲线拟合中的运用。重复性0．13rag正态分布

2最小二乘法在电子天平示值误差校准曲线拟合中的数字分辨力d120．03rag矩形分布

数字分辨力d／120．03rag矩形分布

运用

偏载f(，)本实例中，无关

样机：Max=200g，d=0．1mg(，10．14rag

校准现场条件：标准砝码m／gl0+2(】10+50l0050+l002oo

表1u(6m。)=m~／J30．08080．09240．09240．15010．1732矩形分布

最大秤量／标尺分度值2oog／o．1mgu(SmD)=rope~30．02690．03080．03080．05000．0577矩形分布

温度系数Z℃≤1．510／Ku(6m)：rope~4430．02020．02310．02310．03750．0433矩形分布

内部调整装置自动操作为：当AT~3K时，打开…It(8m)本实例中，无关

校准人员进行调整校准之前进行误差的不确定