江西环境监测中的近似计算规则

2021-05-05 09:25:40

次

江西环境监测中的近似计算规则

在日常的环境监测过程中，往往需要对数据进行计算，计算过程中会遇到如何选择有效位数的问题。环境监测技术规范中监测数据的近似计算规则如下。

(1)加法和减法

几个近似值相加减时，其和或差的有效数字位数，与小数点后位数z少者相同。在运算过程中，可以多保留一位小数。计算结果则按数值修约规则处理。

几个近似值相加减时，其和或差的有效数字决定于误差z大的数值，即z后结果的有效数字自左起不超过参加计算的近似值中第-个出现的可疑数字。在小数的加减计算中，结果所保留的小数点后的位数与各近似值中小数点后位数z少者相同。

例：1.7250 + 74.3 + 21.23 ≈ 1.72 +74.3 + 21.23 = 97.25

z后计算结果按照修约规则处理，表示为：97.2。

(2)乘法和除法

几个近似值相乘除时，所得积与商的有效数字位数决定于各种值中有效数字位数z少者。在实际运算时，先将各近似值修约至比有效数字位数z少者多保留一位，z后将计算结果按上述规则处理。

几个近似值相乘除时，所得积与商的有效数字位数决定于相对误差z大的近似值，即z后结果的有效数字位数要与近似值中有效数字位数z少者相同。

例：1.141 × 4.3 × 0.131 ≈ 1.14 × 4.3 × 0.131 = 0.642162

z后计算结果按照修约规则处理，表示为：0.64。

(3)乘方和开方

近似值乘方或开方时，原近似值有几位有效数字，计算结果就可以保留几位有效数字。

例：1.3222 = 1.747684

z后计算结果应保留四位有效数字：1.748。

例：1.4141/2 = 1.189117…

z后计算结果应保留四位有效数字：1.189。

(4)对数和反对数

在近似值的对数计算中，所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。

例：[H+]浓度为7.00 ×10-2 mol/L的pH值计算。

pH = -lg[H+] = -lg[7.00 ×10-2] = 1.154901…(真数7.00×10-2是三位有效数字)

z后计算结果是求对数，小数点后的位数应保留三位有效数字：1.155。

例：pH为4.00的溶液中[H+]的浓度计算。

[H+] = -lg[H+] = 4.00 (对数4.00小数点后有两位数字，故真数要有两位有效数字)

z后计算结果应保留二位有效数字：1.0×10-4 mol/L

(5)求4个或4个以上准确度接近的数值的平均值时，其有效数字位数可增加一位。

例：(1.20 + 1.21 + 1.23 + 1.23)÷ 4 = 1.2175

z后计算结果按照修约规则处理，可表示为：1.218。