当前位置:文档之家› 有效数字与运算规则

有效数字与运算规则

(1) 分数、比例系数、实验次数等不记位数;
(2) 第一位数字大于8时,多取一位,
如:8.48,可按4位算;
(3) 四舍六入五留双;
0.24335 = 0.2434;0.24345 = 0.2434
(4) 注意pH计算,[H+] = 5.0210 -3 , pH = 2.299;
有效数字按小数点后的位数计算。
2013-12-17
3.改变单位,不改变有效数字的位数ห้องสมุดไป่ตู้
如: 24.01mL, 24.0110-3 L
4.注意点
(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字 (2)分析天平(万分之一)取4位有效数字 0.1012 g (3)标准溶液的浓度,用4位有效数字表示: 0.1000 mol· -1 L (4)pH 4.34 ,小数点后的数字位数为有效数字位数 对数值:lg x = 2.38; lg(2.4102) = 2 + 0.38
0.0325 (±0.0001/0.0325) 100%=±0.3%
5.103
60.06 139.8
(±0.001 /5.103) 100%=±0.02%
(± 0.01 /60.06) 100%=±0.02% (±0.1 /139.8) 100% =±0.07%
混合运算时,加减和乘除分别按规则取有效数字位数。
数字修约时,只允许对原始数据进行一次修约,而 不能对该数据进行连续修约。 如将15.46修约到2位有效数字,必须将其一次修约 到15,而不能连续修约为15.46→15.5→16。
2013-12-17
内容选择:
2.1 定量分析中误差的基本概念 2.2 定量分析数据的评价和显著性检验
2.3 有效数字及其运算规则
2013-12-17
2.3.3 数字修约规则
“四舍五入”数字修约规则,出现正误差。
国家标准规定的“四舍六入五留双”数字修约规则。
【例2-7】 将下面数据修约为4位有效数字 1.36249→1.362 26.4863→26.49 2.00450→2.004 1.024501→1.025 1.0035→1.004 1.023501→1.024
2013-12-17
2.3.2 有效数字的运算规则
1. 加减运算
结果的位数取决于绝对误差最大的数据的位数
例: 0.0121 绝对误差:0.0001
25.64
1.057
0.01
0.001
26.7091
2013-12-17
2. 乘除运算
有效数字的位数取决于相对误差最大的数据的位数。
例:(0.0325 5.103 60.0)/ 139.8 = 0.071179184
第二章 定量分析中的误 差与数据评价
第三节 有效数字及其 运算规则
2.3.1 有效数字 2.3.2 有效数字的 运算规则 2.3.3 数字修约规 则
2013-12-17
2.3.1 有效数字
1.实验过程中常遇到的两类数字
(1)非测定值:如测定次数;倍数;系数;分数等。 (2)测量或计算值。数据的位数与测定准确度有关。 记录的数字不仅表示数量的大小,而且要正确地反 映测量的精确程度。 结果 绝对偏差 相对偏差 有效数字位数
2013-12-17
3. 对数和反对数运算
在对数与反对数运算中,对数的小数点后位数与真数 的有效数字位数相同(对数的整数部分不计入有效数字位 数)。如: [H+]=5.6×10-13 mol· -1 L
pH=12.25
lgKa = -9.24
Ka=5.8×10-10
2013-12-17
4. 注意点
0.51800
0.5180 0.518
±0.00001
±0.0001 ±0.001
2013-12-17
±0.002%
±0.02% ±0.2%
5
4 3
2.数据中零的作用
数字零在数据中具有双重作用:
(1)作普通数字用,如 0.5180
4位有效数字 5.18010-1 (2)作定位用:如 0.0518 3位有效数字 5.1810-2
2.4 分析质量的保证与控制
2.5 标准曲线的回归分析
结束
2013-12-17
相关主题