食品伙伴网服务号

内卷不能输,有效数字运算规则知多少!

放大字体  缩小字体 发布日期:2022-12-29
核心提示:在实验数据的运算中,有效数字的保留和运算规则必不可少。本期给大家梳理并举例说明实验数值加减、乘除、乘方、开方等运算后有效
在实验数据的运算中,有效数字的保留和运算规则必不可少。本期给大家梳理并举例说明实验数值加减、乘除、乘方、开方等运算后有效数字的修约规则,希望对大家有所帮助!

1. 有效数字
(1)有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。

(2)有效数字的前几位都是准确数字,只有最后一位是可疑数字。

例如:

测量结果1.1080g,前几位数字1、1、0、8都是称量读到的准确数字,而最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说可疑的。

(3)有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。

例如:

① 数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;

② 3.501有四个有效数字,占有个位、十分位、百分位、千分位四个数位,因而是四位有效数字。

(4)测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现。

例如:

前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。

2. 修约规则
3. 数值运算规则

(1)加减运算

几个数相加减的结果,经修约后保留有效数字的位数,取决于绝对误差最大的数值,计算结果应以绝对误差最大(即小数点后位数最少)的数据为基准,来决定计算结果数据的位数。

在实际运算过程中,各数值保留的位数比各数值中小数点后位数最少者多保留一位小数,而计算结果有效数字的位数应与效数最少的一数相同。

例如:29.2+36.582-3.0281≈62.8

(2) 乘除运算
几个数据的乘除运算以相对误差最大(即有效数字位数最少)的数值为基准来决定结果数据的位数。

在实际运算中,先将各数值修约至比有效数字位数最少者多保留一位有效数字运算,计算结果的有效数字的位数与有效数字位数最少的数值相同。(与小数点位置无关)

例如:

0.235438×28.6×61.8911

≈0.2354×28.6×61.89

=414.6707116

三个参与运算的数值的有效数字位数分别为六位、三位、六位,所以最终计算结果用三位有效数字表示,为415或4.15×102。

(3) 乘方和开方
乘方或开方时,原数值有几位有效数字,计算结果就可以保留几位有效数字。若计算结果还要参与运算,则乘方或开方所得结果可比原数值多保留一位有效数字。

例如:

3.582=12.8614,运算结果保留三位有效数字,为12.9。

(4) 平均值

计算几个数值的平均值时,先将计算结果修约至比要求的位数多一位,再按数值修约规则处理。

(5) 方差和标准偏差

方差和标准偏差在运算过程中对中间结果不做修约,只将最后结果修约至要求的位数。

注意:

① 在所有计算式中,常数(π、e等)以及非检测所得的计算因子(倍数或分数等)的有效数字位数,可视为无限,需要几位就取几位。

② 使用计算器(或电脑)进行计算时,一般不对中间每一步骤的计算结果进行修约,仅对最后的结果进行修约,使其符合事先所确定的位数。

(6)自然数

在一些分析化学运算中,有时会遇到一些倍数或分数的关系。例如:水(H2O)的相对分子质量=2×1.008+16.00=18.02

其中 “2”不能看做1位有效数字。因为它们是非测量所得到的数,是自然数,其有效数字位数,可视为无限的。

另外,常数π、图片等的有效数字,可认为是无限制,即在计算中可根据需要取适当的数位。


文章(文字)来源:实验室GB检测技术 
编辑:songjiajie2010

 
分享:
[ 网刊订阅 ]  [ 检验技术搜索 ]  [ ]  [ 告诉好友 ]  [ 打印本文 ]  [ 关闭窗口 ] [ 返回顶部 ]
 

 
 
推荐图文
推荐检验技术
点击排行
检验技术
 
 
Processed in 0.021 second(s), 13 queries, Memory 0.92 M