运算中的舍入

出处:按学科分类—工业技术 企业管理出版社《计量专业工程师手册》第88页(1293字)

1.单一运算

单一运算指数字在算式中只参与一次运算。

(1)当几个数作加减运算时,在各数中,以小数位数最少的为准,其余各数均凑成比该数多一位;最后结果的位数与位数最少的相同。

如:60.4+2.02+0.222+0.0467→60.4+2.02+0.22+0.05=62.69≈62.7

(2)当几个数作乘除运算时,在各数中,以有效数位最少的为准,其余各数均凑成比该数有效数位多一位;最后结果的数位与有效数位最少的相同。

如:603.21×0.32/4.011→603×0.32/4.01=48.1≈48

(3)将数平方或开方后,结果有效数位与原数相同。

如:6962=4844×102≈484×103

2.复合运算

复合运算指数字运算有几个步骤。每个步骤为单一运算。

对于复合运算,中间步骤所得数字的位数应比单一运算所得最后结果位数多取1-2位(如果是运算量大而又要求高的精密测量,可酌情多取),以保证最后结果不受运算过程的影响。

【参考文献】:

[1]王立吉,计量学基础,中国计量出版社,1988。

[2]BIPM、IEC、IFCC,IUPAC,IUPAP,OIML,Guide to the Expression of Uncertainty in Measurement, ISO,1993.

[3]刘智敏,不确定度原理,中国计量出版社,1993。

[4]刘智敏,误差分布论,原子能出版社,1988。

[5]刘智敏,误差与数据处理,原子能出版社,1983。

[6]Liu Zhimin(刘智敏),Measurement Uncertainty and Its Correlation Combination,Proceeding of ISEM, 1993.

[7]国家计量总局量值传递处编,计量技术考核纲要,计量出版社,1981。

[8]国家技术监督局审定,刘智敏等编审,全国计量检定人员考核统一试题集第六分册三,误差及数据处理,陕西科学技术出版社,1990。

分享到: