有效数字及运算法则

出处:按学科分类—农业科学 农业出版社《土壤农化分析手册》第29页(2538字)

土壤农化分析结果数据的记载、计算和报告中,有效数字问题十分重要。有效数字是表示测量的精确程度。那种认为在一个数值中写的位数愈多,就愈精确,或者在计算结果中保留的位数愈多,准确度就愈高的想法都是错误的。

(一)有效数字的位数 在土壤农化分析中,数可有两类,一类是用以表示不连续物理量的“数目”的,例如化学式H3PO4中的“3”,“4”数字;在中和法中“H3PO4分子量”,其中的1/3;在这些数字中没有可疑数字,其有效数字位数可认为是无限制的。另一类是用来表示测量连续物理量的结果,这一类数值的末一位是估计得来的,因而具有一定的误差或不确定性。任何测量数据,其数字位数与所用测量仪器及方法的精确度相当,不应任意增加或减少。例如一滴定管读数为10.25,因为刻度只刻到十分之一,百分位上数字为估计,所以末一位数字可认为是不准确的或可疑的,称为可疑数字;而其前边各数所代表的数量,则均为准确知道的,称为可靠数字。我们称此时所记的数字为有效数字。也即此滴定管读数“10.25”的有效数字为四位。

关于数字0,需要特别提一下,它可以是有效数字,也可以不是有效数字。在一项数字中,列于数字中问或末端的“0”都是有效数字,例如30.10。但列于数字之前的“0”是用来确定小数点的位置,不能按有效数字考虑。如在长度0.00320m中,则前面三个0均非有效数字,因为这些0只与所取单位有关,而与测量的精确度无关。若改用毫米为单位,则变为3.20mm,前面三个0全消失。故其有效数字实际位数为三位。

(二)运算法则

(1)记录测定数值时,只保留一位可疑数值。

(2)有效数字位数确定后,其余数字一律弃去,余弃办法是按4余6入5留双。等于5时,其前一位为奇数,则增加1,如前一位为偶数,则弃去不计。例如对10.0647取四位有效数字为10.06,取五位有效数字为10.065。如对10.065与10.075取四位有效数字时,则分别为10.06与10.08。

(3)几个数据相加或相减时,其加减的各数可保留的小数点后的位数,应与各数字中的小数点后的位数最少者相同。例如将0.0724,1.30792及34.21三数相加,应为:

(4)在乘除法中,各数保留的有效数字位数,以百分误差最大或有效数字最小的为标准,所求积或商的精确度,不应大于精确度最小的因子。例如将0.0724×1.30792×34.21:

0.0724的相对百分误差为

1.30792的相对百分误差为

34.21的相对百分误差为

上式中0.0724的误差最大,所以它为标准,确定其它位数和所乘之积的有效数字位数,即应为:

(5)在对数计算中,所取对数位数应与真数有效数字数位相等。

(6)在所有计算式中,常数π、e等的有效数字以及乘数为等的有效数字,可认为无限制,即在计算中需要几位就可以写几位。

(三)数据的取舍 在一系列实验测定结果中,常会有个别数据偏离平均数较远,如不弃去则会影响平均结果的准确性。舍弃不合理数据的方法有:4d法,2.5d法,Q检验法(或称极差法),离均差平方和(∑d2)法,改良3S法等等,此将前三法介绍如下:

1.4d法 一组4个以上的数据中,有一个偏离较大的数值,此数值与不将其计算在内的平均值的偏差大于平均偏差的4倍时则舍弃不用,此方法称4d法。

例:有一组测定值:10.34,10.31,10.25,10.64,10.19,其中10.64是否太大,应否弃去,用4d法计算如下:

(1)去掉可疑值,求得从各测定值减去X′的偏差,再求其平均值。

(2)

(3)平均偏差=0.052,4倍平均偏差=0.208

(4)可疑值的偏差大于4倍平均偏差,0.37>0.208,故此可疑值应舍弃不用。

2.5d法是舍弃大于2.5倍平均偏差的可疑值的方法,此法舍弃的数据似过多些。

2.Q检验法(极差法) 这个方法是先求出可疑值(极值)与其邻近的一个数值间的偏差,然后用全距除,所得商称为Q值:

式中:Xn>Xn-1>Xn-2……X2>X1

Xn为可疑值(或X1)

计算值等于或大于Q表值,则该值可有或不到90%置信应予弃去。

例如上组测定值:10.34,10.31,10.25,10.64,10.19,其中10.64可疑值可否舍弃?

(1)计算Q值:

(2)查Q检验法表

由上式计算得的Q=0.666大于Q检验法表上的0.642,故可疑值10.64应弃去。

分享到: