检验数据的有效数字及修约规则|云南华联锌铟股份有限公司九游会地址官网|云南华联锌铟股份九游会地址官网|华联锌铟-九游会地址

检验数据的有效数字及修约规则
发布日期:2014年10月29日 作者:admin 来源:质检部 阅读:2790

质检部杨绍辉

一、有效数字

测量仪器本身具有一定的精度,如百分表能度量准确至±0.01mm,千分尺能度量准确至±0.001mm,万分之一的分析天平能称准至0.0001g。因此,所用测量仪器的精度决定了检验数据的有效数字。即有效数字是指在检验工作中实际能测量到的数字,记录数据和计算结果保留几位有效数字,应根据检验方法和使用的测量仪器的精度来决定。一般只保留最后一位可疑数字,当有效数字确定后,其余数字(尾数)应一律舍去。

二、有效数据的修约规则

当有效数字的位数确定之后,要决定后面多余的数字的舍弃,过去对数值的修约采用“四舍五入”,但其进舍概率不均衡,会造成修约后的测量值系统偏高。因而,现在采用“四舍六入”法。

四舍六入修约规则的口诀是:4要舍,6要入,5后有数进一位,5后无数看奇偶,5前为奇进一位,5前为偶全舍光。数字修约有规定,连续修约不应当。

如:要求对以下各测量值修约为三位有效数字时,结果为:

2.3241—2.32(4舍)2.3262—2.33(6入)

2.3251—2.33(5后非零进一位)

13.35—13.4(5前为奇进一位)

13.25—13.2(5前为偶全舍光)

13.05—13.0(5前为偶全舍光)

7.354546—7.35(4舍)

不允许对数据连续修约,如下列为不正确的做法:

7.354546—7.35455—7.3546—7.355—7.36


关于九游会地址 九游会地址的简介 组织架构 发展历程 资质荣誉 员工风采
新闻中心 公司新闻 媒体报道
九游会地址的产品中心 询价函 锡精矿 铜精矿 铁精矿 硫精矿 锌精矿
九游会地址的文化 企业标杆 员工来稿 劳动者风采 文化活动
联系九游会地址 九游会地址的联系方式 九游会地址的人才招聘 在线留言
云南网警
手机版
微信公众号
九游会地址 copyright © 2020 云南华联锌铟股份有限公司 滇icp备17009297号 滇公网安备 53262502003014号
网站地图