食品伙伴网服务号

化验员、质监员培训讲义基本常识之有效数字的处理

放大字体  缩小字体 发布日期:2021-07-27  来源:食品微生物检测公众号
核心提示:一、有效数字。1.在分析工作中实际能测量到的数字就称为有效数字。2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差
 一、有效数字

1.在分析工作中实际能测量到的数字就称为有效数字。

2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差1


二、有效数字修约规则

用“四舍六入五成双”规则舍去过多的数字。

即当尾数≤时,则舍;尾数≥时,则入;尾数等于时,若前面为偶数则舍,为奇数时则入。当后面还有不是零的任何数时,无论前面是偶或奇皆入。

例如:将下面左边的数字修约为三位有效数字

2.324→2.32 2.3252.32 2.3262.33 2.3352.34 2.325012.33


三、有效数字运算法则

1.在加减法运算中,每数及它们的和或差的有效数字的保留,以小数点后面有效数字位数最少的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。

例如:2.0375+0.074539.54=

39.54 是小数点后位数最少的,在这三个数据中,它的绝对误差最大,为±0.01,所以应以39.54 为准,其它两个数字亦要保留小数点后第二位,因此三数计算应为:2.040.0739.54=41.65


2.在乘除法运算中,每数及它们的积或商的有效数字的保留,以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。

例如:13.92×0.0112×1.9723=

0.0112 是三位有效数字,位数最少,它的相对误差最大,

所以应以0.0112 的位数为准,

即:13.9×0.0112×1.97=0.307


3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。


4.检验结果的写法应与药典规定相一致。

编辑:songjiajie2010

 
分享:
[ 网刊订阅 ]  [ 检验技术搜索 ]  [ ]  [ 告诉好友 ]  [ 打印本文 ]  [ 关闭窗口 ] [ 返回顶部 ]
 

 
 
推荐图文
推荐检验技术
点击排行
检验技术
 
 
Processed in 0.022 second(s), 14 queries, Memory 0.94 M