1 有效数字的定义
有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。
如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。
再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。
2 有效数字的保留
由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。
如:在标准的极限数值(或技术指标)的表示中,××≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。
如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g.,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。因为再精确的仪器设备都有误差,因此,在重量法中,如果检验方法中要求:直至恒重,即前后两次差不大于0.0002g即为恒重了。(讲电子天平的准确度)
如GB/T 601《化学试剂标准滴定溶液的制备》,要求保留4为有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4为有效数字(如果直接保留到4为有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。
二“0” 在数字中的作用
“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。
2.1 定位(无效)
当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零)0.02040(数字前2个零)均为定位作用;
2.2 定值(有效)
当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.002040.300020
当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204
均为有效作用
2.3 不确定作用:当“0”在整数后
如:4500有效数值是几位?回答是:不确定
将4500用三为有效数字表示:0.450×104 4.50×103
将4500用四为有效数字表示:0.4500×104 45.00×102
三数字修约规则(GB8170)
3.1 数字修约规则 例题:将下列各数修约到小数点后一位数。
修约前 修约后
四舍六入五考虑, 12.44 12.4
12.46 12.5
五的情况有三种:12.35 12.4
五后为零看前位,12.45 12.4
五前为奇要进一 12.451 12.5
五前为偶要舍去,
五后非零则进一。
3.2 检验结果的修约
根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象
a)检验结果修约后,应体现出修约的情况
如 标准值 ××<0.5
检测结果为:0.456 第1步修约:0.46(-)(四舍六入)
报出值:0.5(-) 判定:合格
如:标准值 ×× ≥15
检测结果为:14.55 第1步修约:14.6(-) 报出值:15(-)
按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格
14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)
如,若检验结果为:14.35
第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14
最终的报出结果只有修约到标准值上时,才用+、-表示。
例题:将检验结果保留到整数位
检测值 修约值 报出值
15.4546 15.5(-) 15
16.5203 16.5(+) 17
17.5000 17.5 18
10.5020 10.5(+) 11
由以上例题可见,被多保留的数字 的修约原则仍是是四舍六五单双
b)一步修约到位 (这种修约更直接和更直观)
例题:将下列结果修约到整数位
检测结果 报出值
15.4546 15
16.5203 17
17.5000 18
14.5500 15
10.5020 11
c)不准连续修约
拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。
如15.4546一次修约结果为:15
※ 连续修约:15.455 — 15.46-15.5-16
※ 按多保留一位的修约法:15.5(-)
因为.5(-)
即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。
四数值的修约方法
4.1 数值的修约方法有两种,即修约值比较法和全数值比较法
a)修约值比较法:数值修约后,体现不出数值的修约情况;
b)全数值比较法:数值修约后,能够体现出数值的修约情况。
4.2 如何选择修约值的方法
a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;
b)只有当检测结果修约到标准值上时,方采用全数值比较法。
由上表可以看出,一般情况下全数值比较法严与修约值比较法。
五加减乘除运算规则
5.1加减法运算规则
在参与运算的各数中,以小数点后位数最少的的为准,其余各数均修约成比位数最少的要多一位,最终结果与位数最少的相一致。(与小数点位数有关)
例题1:
12.455 + 23.1 +14.345
= 12.46 + 23.1 +14.34
= 49.90
≈49.9
例题2:
2.155 + 0.0012 +10.445 + 25.1
= 2.16 + 0.00 +10.44 + 25.1
= 37.70
≈37.7
例题3:
1.000 + 0.125 +9.555 + 0.1
= 1.00 + 0.12 +9.56 + 0.1
= 10.78
≈10.8
例题4:
0.999 + 1.0 +14.999 + 24.450
= 1.00+ 1.0 + 15.00+ 24.45
= 41.45
≈41.4
例题5:
0.1 + 10.515 +0.001 + 10.000
= 0.1 + 10.52 +0.00 + 10.00
= 26.62
≈26.6
5.2 乘除(乘方、开方)法
在参与运算的各数中,以有效位数最少的为准,其余各数均修约成比有效位数最少的要多一位,最终结果与有效位数最少的相一致。(与有效位数有关)
例题1:
10.54 × 1.001 ×0.10
= 10.5 × 1.00 ×0.10
= 1.05
≈1.0
例题2:
0.1 × 1.00 × 0.101× 10.145
= 0.1 × 1.0 × 0.10× 10
= 0.10
≈0.1
例题3:
0.999 × 1.00 ×10.04 × 0.0010
= 1.00 ×1.00 × 10.0× 0.0010
= 0.0100
= 0.010
例题4:
2.24 × 0.5 × 0.554× 0.5451
= 2.2 × 0.5 × 0.55×0.55
= 0.33
≈0.3
例题5:
2.5 × 2.451 × 2.255
= 2.5 × 2.45 × 2.26
= 13.8
≈14