质检部杨绍辉
一、有效数字
测量仪器本身具有一定的精度,如百分表能度量准确至±0.01mm,千分尺能度量准确至±0.001mm,万分之一的分析天平能称准至0.0001g。因此,所用测量仪器的精度决定了检验数据的有效数字。即有效数字是指在检验工作中实际能测量到的数字,记录数据和计算结果保留几位有效数字,应根据检验方法和使用的测量仪器的精度来决定。一般只保留最后一位可疑数字,当有效数字确定后,其余数字(尾数)应一律舍去。
二、有效数据的修约规则
当有效数字的位数确定之后,要决定后面多余的数字的舍弃,过去对数值的修约采用“四舍五入”,但其进舍概率不均衡,会造成修约后的测量值系统偏高。因而,现在采用“四舍六入”法。
四舍六入修约规则的口诀是:4要舍,6要入,5后有数进一位,5后无数看奇偶,5前为奇进一位,5前为偶全舍光。数字修约有规定,连续修约不应当。
如:要求对以下各测量值修约为三位有效数字时,结果为:
2.3241—2.32(4舍)2.3262—2.33(6入)
2.3251—2.33(5后非零进一位)
13.35—13.4(5前为奇进一位)
13.25—13.2(5前为偶全舍光)
13.05—13.0(5前为偶全舍光)
7.354546—7.35(4舍)
不允许对数据连续修约,如下列为不正确的做法:
7.354546—7.35455—7.3546—7.355—7.36