食品伙伴网服务号
当前位置: 首页 » 仪器设备 » 理化检测仪器 » 正文

数据处理 | 有效数字&数值修约

放大字体  缩小字体 发布日期:2023-09-15
核心提示:有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。
 一有效数字及其有效数字的保留

 

1 有效数字的定义

有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。

 

如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。

再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。

 

2 有效数字的保留

由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。

 

如:在标准的极限数值(或技术指标)的表示中,××≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。

 

如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g.,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。因为再精确的仪器设备都有误差,因此,在重量法中,如果检验方法中要求:直至恒重,即前后两次差不大于0.0002g即为恒重了。(讲电子天平的准确度)

 

如GB/T 601《化学试剂标准滴定溶液的制备》,要求保留4为有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4为有效数字(如果直接保留到4为有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。

 

 

二“0” 在数字中的作用

 

“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。

 

2.1 定位(无效)

当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零)0.02040(数字前2个零)均为定位作用;

 

2.2 定值(有效)

当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.002040.300020

当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204

均为有效作用

 

2.3 不确定作用:当“0”在整数后

如:4500有效数值是几位?回答是:不确定

将4500用三为有效数字表示:0.450×104 4.50×103

将4500用四为有效数字表示:0.4500×104 45.00×102

 

 

三数字修约规则(GB8170)

 

3.1 数字修约规则 例题:将下列各数修约到小数点后一位数。

修约前 修约后

四舍六入五考虑, 12.44 12.4

12.46 12.5

五的情况有三种:12.35 12.4

五后为零看前位,12.45 12.4

五前为奇要进一 12.451 12.5

五前为偶要舍去,

五后非零则进一。

 

3.2 检验结果的修约

根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象

 

a)检验结果修约后,应体现出修约的情况

如 标准值 ××<0.5

检测结果为:0.456 第1步修约:0.46(-)(四舍六入)

报出值:0.5(-) 判定:合格

如:标准值 ×× ≥15

检测结果为:14.55 第1步修约:14.6(-) 报出值:15(-)

按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格

14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)

如,若检验结果为:14.35

第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14

最终的报出结果只有修约到标准值上时,才用+、-表示。

例题:将检验结果保留到整数位

检测值 修约值 报出值

15.4546 15.5(-) 15

16.5203 16.5(+) 17

17.5000 17.5 18

10.5020 10.5(+) 11

由以上例题可见,被多保留的数字 的修约原则仍是是四舍六五单双

 

b)一步修约到位 (这种修约更直接和更直观)

例题:将下列结果修约到整数位

检测结果 报出值

15.4546 15

16.5203 17

17.5000 18

14.5500 15

10.5020 11

 

c)不准连续修约

拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。

如15.4546一次修约结果为:15

※ 连续修约:15.455 — 15.46-15.5-16

※ 按多保留一位的修约法:15.5(-)

因为.5(-)

即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。

 

四数值的修约方法

 

4.1 数值的修约方法有两种,即修约值比较法和全数值比较法

a)修约值比较法:数值修约后,体现不出数值的修约情况;

b)全数值比较法:数值修约后,能够体现出数值的修约情况。

 

4.2 如何选择修约值的方法

a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;

b)只有当检测结果修约到标准值上时,方采用全数值比较法。
由上表可以看出,一般情况下全数值比较法严与修约值比较法。

 

 

五加减乘除运算规则

 

5.1加减法运算规则

在参与运算的各数中,以小数点后位数最少的的为准,其余各数均修约成比位数最少的要多一位,最终结果与位数最少的相一致。(与小数点位数有关)

例题1:

12.455 + 23.1 +14.345

= 12.46 + 23.1 +14.34

= 49.90

≈49.9

 

例题2:

2.155 + 0.0012 +10.445 + 25.1

= 2.16 + 0.00 +10.44 + 25.1

= 37.70

≈37.7

 

例题3:

1.000 + 0.125 +9.555 + 0.1

= 1.00 + 0.12 +9.56 + 0.1

= 10.78

≈10.8

 

例题4:

0.999 + 1.0 +14.999 + 24.450

= 1.00+ 1.0 + 15.00+ 24.45

= 41.45

≈41.4

 

例题5:

0.1 + 10.515 +0.001 + 10.000

= 0.1 + 10.52 +0.00 + 10.00

= 26.62

≈26.6

 

5.2 乘除(乘方、开方)法

在参与运算的各数中,以有效位数最少的为准,其余各数均修约成比有效位数最少的要多一位,最终结果与有效位数最少的相一致。(与有效位数有关)

例题1:

10.54 × 1.001 ×0.10

= 10.5 × 1.00 ×0.10

= 1.05

≈1.0

 

例题2:

0.1 × 1.00 × 0.101× 10.145

= 0.1 × 1.0 × 0.10× 10

= 0.10

≈0.1

 

例题3:

0.999 × 1.00 ×10.04 × 0.0010

= 1.00 ×1.00 × 10.0× 0.0010

= 0.0100

= 0.010

 

例题4:

2.24 × 0.5 × 0.554× 0.5451

= 2.2 × 0.5 × 0.55×0.55

= 0.33

≈0.3 

 

例题5:

2.5 × 2.451 × 2.255

= 2.5 × 2.45 × 2.26

= 13.8

≈14

 

编辑:songjiajie2010

 
分享:
[ 网刊订阅 ]  [ 仪器设备搜索 ]  [ ]  [ 告诉好友 ]  [ 打印本文 ]  [ 关闭窗口 ] [ 返回顶部 ]
 

 
 
推荐图文
推荐仪器设备
点击排行
 
 
Processed in 0.015 second(s), 14 queries, Memory 1.18 M