有效数字运算及修约
②
拟舍弃数字的最左一位数字大于5,则进 一,即保留位数的末位数字加一; e.g. 将13.1634修约至小数点后一位,得到 13.2。
进舍规则
③ 拟舍弃数字的最左一位数字是5,且其后有非0 数字时进一,即保留数字的末位数字加1。 e.g. 将11.5002修约至个位数,得12,且其后无数 字或皆为0时,若所保留数字的末位数字为奇数时 则进一,若所保留数字的末位数字为偶数时则舍 去。 e.g. 将1.050修约至小数点后一位得1.0,将0.35 修约至小数点后一位得0.4。 ⑤ 负数修约时先取绝对值,按照① ② ③ ④ 中的 规则进行修约,然后在其前面加上负号。
不允许连续修约规则
Ⅰ.报出数值最右的非零数字为5时,应在数值的 右上角加上“+”或“-”或不加符号,分别表明 进行过舍、进或未舍未进。 e.g. 16.50+,表示实际值大于16.50,16.50-表示 实际值小于16.50。 Ⅱ.如对报出值需进行修约,当拟舍弃的最后一位 数值为5,且其后无数字或皆为0时,数值右上角 有“+”者进一,有“-”者舍去,其余按照① ② ③ ④ 中的规则进行修约。
的浓度写着:0.1065(+)mol/L。
有效数字的定义
数学定义:从左边第一个不是0的数字算起,到精 确到的位数为止,所有的数字都叫做这个数的有 效数字。 分析化学定义:在分析工作中实际能够测量到的 数字。能够测量到的是包括最后一位估读的,不 确定的数字。我们把通过直读获得的准确数字叫 做可靠数字,把通过估读得到的那部分数字叫做 存疑数字,把测量结果中能够反映被测量大小的 带有一位存疑数字的全部数字叫有效数字。
有效数字的×÷运算
在几个数据相乘或相除时,有效数字的保留, 应与几个数据中相对误差最大的数相对应,通 常根据有效数字最少的数据来进行修约。 e.g. 0.0121×25.64×1.05782=? 每个数据最后一位都有±1的绝对误差,三个数 据的相对误差分别是: 0.0121的相对误差最大,故运算时以它为标准将 另外两个数据修约为三位有效数字的,再相乘。 即0.0121×25.6×1.06=0.328
不允许连续修约规则
拟修约数字应在确定修约间隔或指定修 约数位后一次修约获得结果,不得按照进 舍规则多次进行多次修约。 e.g. 将97.46修约至个位数 正确做法:97.46→97 错误做法:97.46→97.5→98
(1)
不允许连续修约规则
(2)
在具体实施中,有时测试与计算部门先 将获得的数值按照指定的修约数位多一位 或几位报出,而后再由其它部门判定。为 了避免产生连续修约的错误,应按以下两 个步骤进行操作。
两种判定方法的比较
对于同样的极限数值,若它本身符合要求,
则全数值比较法比修约值比较法更加严格。
数值修约规则
数值修约:通过省略原数值的最后若干位数字, 调整所保留的若干位数字,使最后得到的值最接 近原数值的过程。 修约间隔:修约值的最小数值单位。修约间隔的 数值一经确定,修约值一定是该数值的整数倍。 e.g.1:修约间隔为0.1(或10-1),表示将数值修约 至一位小数; e.g.2:修约间隔为100(或102),表示将数值修约 至百位数。 极限数值:标准(或技术规范)中规定考核的以数 量形式给出且符合该标准(或技术规范)要求的指 标数值范围的界限值,即指标的上限或者下限。
表示极限数值的基本用语及其组合
带有极限偏差值的数值
测定值或其计算值与标准规定的极限数值的作 比较方法
1)全数值比较法
2)修约值比较法 当标准或有关文件中,若对极限数值(包括带
有极限偏差的数值)无特殊规定时,均应使用 全数值比较法。如规定修约值比较法,应在 标准中加以说明。 若标准或有关文件规定了使用其中一种比较 方法时,一经确定,不得改动。
全数值比较法
将测试所得的测定值或计算值不经修约处理(或虽 经修约处理,但应标明它是经舍、进货未舍未进 而得),用该数值与规定的极限数值作比较,只要 超出极限数值规定的范围(不论超出程度大小), 都判定为不符合要求。
修约值比较法
将测定值或其计算值进行修约,修约位数应与规 定的极限数值位数一致。 当测试或计算精度允许时,先将获得的数值按指 定的修约数位多一位或几位报出,再按进舍规则 修约值规定的位数。 用该数值与规定的极限数值作比较,只要超出极 限数值规定的范围(不论超出程度大小),都判定 为不符合要求。
有效数字位数判定
1.0008
0.1000
0.0382
54 3600 注意: 1、以上数据中0的左右的差异; 2、对于3600之类的数字,一般看成4位有 效数字,但它也可能是2位(3.6×103)或3位 (3.60×102)
43.181 五位 10.98% 四位 1.98×10-10 三位 0.0040 两位 100 位数模糊
有效数字的+-×÷
在实际的分析工作中,经常会遇到计算公
式,而计算公式中的不同项目所保留的有 效数字的位数是不同的,最终的计算结果 到底保留多少个有效数字值得关注。
有效数字的+-运算
在几个数据相加或相减时,有效数字的保
留,应该以小数点后位数最少的数字为根 据。 e.g. 0.0121+25.64+1.05782=? 每个数据最后一位都有±1的绝对误差,即 0.012 1±0.0001;25.64 ±0.01;0.10572 ±0.00001;以上数据中以25.64的绝对误差 最大,在加减运算中最终结果的绝对误差 决定于该数据,故最终结果的有效数字位 数决定于25.64这个数据。 So 上式变换为:0.01+25.64+1.06=26.71
有效数字位数判定
1、在分析化学计算中,常遇到倍数、分数
关系,这些数据不是测量直接得到的,可 视为无限多位有效数字; 2、对于pH、pM、lgc、lgK等对数值,其有 效数字取决于小数部分的位数,因为整数 部分只代表该数字的方次。 e.g. pH=11.20,换算为H+浓度时,应为 c(H+)=6.3×10-12mol/L,有效数字是两位。
数值修约规则
数值修约的步骤大体分两步: 1、确定修约间隔;
2、根据修约的进舍规则对数值进行修约。
数值修约的规则: 1、进舍规则; 2、不允许连续修约; 3、0.5单位修约; 4、0.2单位修约。
进舍规则
大规则:四舍六入五成双
①
拟舍弃数字的最左一位数字小于5,则舍 去,保留其余各位数字不变; e.g. 将12.1498修约至个位数,得到12,修 约至小数点后一位,得到12.1.
1 100 % 0.8% 121
1 100 % 0.009 % 105782
1 100 % 0.4% 2564
极限数值的表示和判定
书写极限数值的一般原则
一、标准(或其它技术规范)中规定考核的以数量 形式给出的指标或参数等,应当规定极限数值。 极限数值表示符合该标准要求的数值范围的界限 值,它通过给出最小极限值和(或)最大极限值, 或给出基本数值与极限偏差值等方式表达。 二、标准中的极限数值的表示方式及书写位数应 适当,其有效数字应该全部写出。书写位数表示 的精确程度,应能保证产品或其它标准化对象的 性能和质量。
数值修约规则及极限数值的表示和判定 Significant figure
情景导入
进行化学滴定分析时,当凹液面在两刻度线
之间时,需要对两刻度线之间的体积进行估 读,梅仁耀读取到23.44mL、梅仁爱读取到 23.46mL、梅仁姓读取到23.45mL;
梅闻画看到一试剂柜中的NaOH标准滴定溶液
0.5单位修约和0.2单位修约
定义:0.5单位修约是指按指定修约单位间
隔对拟修约的数值的0.5单位进行的修约。 步骤:将拟修约数值X乘以2,按指定修约 间隔对2X根据上述进舍规则进行修约,得 到的数值(2X修约值)再除以2。
0.2单位修约的定义和步骤跟0.5单位修约类
似,将倍数“2”变为“5”。