数字位数

出处:按学科分类—工业技术 企业管理出版社《计量专业工程师手册》第87页(1283字)

在计量工作中,由于测量总会有误差,因此表示测量结果的数字的位数不宜太多也不宜太少,太多容易使人误认为测量精度很高,太少则会损失精度。

如果结果L的极限误差是某一位上的半个单位,该位至L的左起第一位非零数字一共有n位,我们说L有n位有效数字。

我们在书写不带误差的任一数字时,应使由左起第一个不为零的数一直至最后一个数为止,都是有效数字。例如,对极限误差为的近似数0.0023不应任意写成0.002300,因为我们认为0.002300的极限误差为。又极限误差为的近似数应写为87×102,而不应写成8700,因8700的极限误差为

在计量工作中,若测量结果未带上相当于极限误差的展伸不确定度(总不确定度),则结果宜写为有效数字形式。

然而计量工作中,测量结果宜带上展伸不确定度,此时展伸不确定度保留1-2位有效数字,而测量结果最后一位取至与该保留末位同一量级。

如某标准活塞压力计有效面积的展伸不确定度U=0.000005cm2,检定的有效面积L=0.050145cm2,则检定结果写为

0.050145cm2±0.000005cm2

在运算过程中,为使结果精度高些,中间运算的数据可比上述多取1~2位。

【参考文献】:

[1]王立吉,计量学基础,中国计量出版社,1988。

[2]BIPM、IEC、IFCC,IUPAC,IUPAP,OIML,Guide to the Expression of Uncertainty in Measurement, ISO,1993.

[3]刘智敏,不确定度原理,中国计量出版社,1993。

[4]刘智敏,误差分布论,原子能出版社,1988。

[5]刘智敏,误差与数据处理,原子能出版社,1983。

[6]Liu Zhimin(刘智敏),Measurement Uncertainty and Its Correlation Combination,Proceeding of ISEM, 1993.

[7]国家计量总局量值传递处编,计量技术考核纲要,计量出版社,1981。

[8]国家技术监督局审定,刘智敏等编审,全国计量检定人员考核统一试题集第六分册三,误差及数据处理,陕西科学技术出版社,1990。

分享到: