误差和数据处理
三、有效数字的运算法则
根据误差传递规律
加减法中 按小数点后位数最少的(绝对误差传递) 0.5362 + 0.001 + 0.25 = 0.79
0.5362 0.001 0.25
绝对误差 0.0001 0.001
0.01
29
有效数字的运算法则
根据误差传递规律
乘除法中 按有效数字位数最少的(相对误差传递) 0.0121 25.64 1.0578 = 0.328
例2-5:用8-羟基喹啉测定Al含量,9次测定的标准偏差为0.042%,
平均值为10.79%。估计真值在95%和99%置信水平时应是多大?
95%置信度时:
P =0.95 a =1-P =0.05 f=9-1=8
查表 t0.05,8=2.306
代入公式 =x tS/n =10.79 0.032%
测量步骤的准确度应与分析方 法的准确度相当
增加平行测定的次数
(四)消除测量中的系统误差
19
提高分析结果准确度的方法
(一)选择恰当的分析方法 (二)减小测量误差 (三)减小偶然误差的影响
(四)消除测量中的系统误差
经典方法比较 校准仪器 对照实验 回收实验 空白实验
试样中组分含量
标样中组分含量
=
试样中组分测得量
26
有效数字的修约规则
在修约标准偏差等时 修约的结果应使准确度 降低 例如:标准偏差(S)=0.213
取两位时,修约为 0.22 取一位时,修约为 0.3
27
有效数字的修约规则
与标准限度值比较时不应修约
例如:
某标准试样中镍含量≤0.03%为合格
获得的测量值为
0.033%
修约为
0.03% 不合理
28
1.极值误差法
运算式
极值误差法
误差最大且叠加 R=x+y-z R x y z
R=x· y/z
R x y z Rx y z
例如:滴定度的计算
w% TVF 100 m
w v F m wV F m
16
2.标准偏差法
和(差)结果的标准偏差的平方,等于各测量值标准偏差的 平方和
积(商)结果的相对标准偏差的平方,等于各测量值的相对
标偶准然偏差误的差平的方和传递
例4:天平称量时的标准偏差为0.1,求测量样品时的标准偏差。
运算式 R=x+y-z R=x· y/z
标准偏差法
S
2 R
S
2 x
S
2 y
S
2 z
SR R
2
Sx x
2
Sy y
2
Sz z
2
S
2 R
S
2 x
S
2 y
S
2 z
Sm
S12
S
2 2
2S 2 2 (0.1)2
正态分布
(高斯分布)
y 1 exp[ 1 ( x )2 ]
2
2
y
令 u x
标准正态 分布曲线
x
x-
31
二、t 分布
对于有限次实验数据要用t分布 进行统计处理
正态分布
令 u x
y 1 exp[ 1 ( x )2 ]
2
2
以 S 代替
t 代替 u
标准正态 分布曲线
t分布曲线
t x
S x
浓度的相对误差
m=m前-m后 m= m前- m后 M=0 V=250-249.93
c c
=
m m
-(
M M
+
V V
)
=-0.04%
绝对误差
C =-0.04% 0.1013mol/L
减重法
实际浓度
c =0.1013- c = 0.10134mol/L ≈0.1013mol/L
15
(二)偶然误差的传递
查表:Q90% = 0.64 Q < Q90% ,0.1026不应该舍弃。
43
(二)G检验法
xq x
• 求出包括可疑数据在内的平均值 G
• 计算可疑值与平均值之差
S
• 算出包括可疑值在内的标准偏差S
• 求G值:G计算 • 查表:Gn, • 比较: G计算>Gn,, 舍弃
44
0.749、0.730、0.749、0.751、0.747、0.752 试用G检验法确定数据0.730,是否应舍弃?
0.0121 25.64 1.0578
相对误差
(0.0001/0.0121)100% = 0.83% (0.01/25.64) 100% = 0.028% (0.0001/1.0578) 100% = 0.0095%
乘方/开方时 有效数字位数不变
30
第三节 有限量测量数据的统计处理
一、偶然误差和正态分布
22
“0”既可作为有效数字,也可作定位用的无效数字
数字前面的0,起定位作用 数字中间的0,是有效数字 数字后面的0,?
有效数字的位数反映了测量和结果的准确程度,绝 不能随意增加或减少
20.50L
ml ?
pH、pKa等对数值,其有效数字仅取决于小数部分 数字的位数
pH=2.88 pKa=7.21
[H+]=1.3×10-3 Ka=6.9×10-8
标样中组分测得量
加入后测得量-加入前测得量 回收率%=
标品加入量
20
第二节 有效数字及其运算法则
分析化学中的数字
非测量值 测量值
自然数,无准确度问题
测量所得,其位数应与 分析方法的准确度及仪 器的精度相适应
21
一、有效数字
实际能测到的数字。只允许数的最末一 位为可疑值。 不仅能表示数值的大小,还可反映测量 的精确程度,不能随意增加或减少 滴定分析和重量分析,允许误差一般为 0.2%,各测量数据一般保留4位有效 数字
0.14mg
五、提高分析结果准确度的方法
(一)选择恰当的分析方法
不同方法能达到的灵敏度和准确度是不同的
(二)减小测量误差 (三)减小偶然误差的影响 (四)消除测量中的系统误差
18
提高分析结果准确度的方法
(一)选择恰当的分析方法
100%
(二)减小测量误差 减小每个步骤的测量误差
(三)减小偶然误差
3次测定时
X=33.5 S=0.153 t0.05,2=4.303
=x tS/n =33.5 0.38%
5次测定时
X=33.6 S=0.164 t0.05,4=2.776
=x tS/n =33.6 0.20%
在相同置信水平下,适当增加测定次数n,可使 置信度区间显著缩小,从而提高分析测定的准 确度
首位为8或9,其有效数字位数可多计一位
二、数字的修约规则
四舍六入五成双
4 舍弃 6 进位 = 5且5后面无数时
进位后成偶数 进位后成奇数
例如:将以下数值修约为三位数字
2.0149
2.01
5.2386
5.24
3.125001
3.131.7551.764.1054.10
进位 舍弃
有效数字的修约规则 只允许修约一次,禁止分次修约
• 查Q临界值表,比较Q值,决定取舍
Q计 >Q表,舍弃;反之保留
42
例2-12 标定一个标准溶液,测得如下数据:0.1014、0.1012、
0.1019、0.1016、0.1026 mol/L。试用Q检验法确定数据0.1026, 是否应舍弃?
Q x可疑 x紧邻 0.1026 0.1019 0.5 x最大 x最小 0.1026 0.1012
8
1. 偏差(deviation;d)
d =xi-x
2. 平均偏差 3. 相对平均偏差
Xi X
d=
n
d
X 100%
Xi X /n
=
x
4. 标准偏差
s
XiX 2
n1
5. 相对标准偏差
RSD = S 100% x
例2-2
四次标定某溶液的浓度,结果为0.2041, 0.2049, 0.2039, 和0.2043mol/L。计算测定的平均值、平均偏 差、相对平均偏差、标准偏差,以及相对标准偏差
统计判断时: • 置信水平定得越高,置信区间就越宽;置信水平
越低,置信区间就越窄
例2-5中:
P =0.95时
=10.79 0.032%
P =0.99时
=10.79 0.047%
但置信水平定得过高,会使置信区间过宽而实用 价值不大
分析化学中常取95%置信水平,有时也采用90%、 99%置信水平
40
四、可疑数据的取舍
(一)舍弃商法(Q检验法) (二)G检验法(Grubbs检验法) 0.1014、0.1012、0.1019、0.1016 、0.1026 mol/L
41
(一) 舍弃商法 测定次数3~10次,P常取90%
检验步骤:
• 将数据排序 • 计算Q值
Q x可疑 x紧邻 x最大 x最小
范围 概率%
1 68.3
1.64 90.0
1.96 95.0
2 95.5
增加置信水平则相应需要扩大置信区间。
36
=x u
多次测量
μ x u/ n
以 S 代替
t 代替 u
少量测量样本
μ x tS/ n XU x tS / n
X L x tS / n
双侧置信区间:在一定置信水平下,XL < < XU 单侧置信区间: <XL 或 > XU
第二章 误差和分析数据处理
1
误差和分析数据处理
• 定量分析 • 准确性和可靠性 • 误差是客观存在的