有效数字修约精密度准确度
小数点后位数最少的相同。 ➢ 乘除法计算的结果,其有效数字保留的位数,应与参加运算各数中有效
数字位数最少的相同。 ➢ 方法测定中按其仪器准确度确定了有效的位数后,先进行运算,运算后
的数值再修约。
III. 有效数字的运算规则
12
1. 加减运算,“尾数取齐”。 例如:278.2+12.451=290.7
拟舍弃数字的最左一位数字是 5 ,且其后有非 0 数字时进一
7.4501→75× 10-1 (特定场合可写成7.5 )
III. 数值修约规则
20
B. 一次修约
如:将15.4546修约成整数。
修约 一次 二次 三次 四次修 前 修约 修约 修约 约(×结
修约 修约
果)
1前5.45 1后5.45√ 15.46 15.5 16
III. 准确度的表示
用回收率表示方法的准确度。 加入的标准物质的回收率(P)按式计算:
PX1X0 10% 0 m
五、精密度与准确度
35
I. 精密度与准确度的关系 II. 提高准确度
I. 精密度与准确度的关系
36
1. 准确度:分析结果与真实值相接近的程度,说明分析结果的可靠性,用误差来 衡量(误差是客观存在的)
S
n
XX2 i
i1
n X2n
i
i1
i1
Xi 2/n
n1
n1
由于实际工作中只作有限次测量, 测定值的分散程度要用样本标准偏差S表示。样本 为从总体中随机抽取的一部分。
C. 相对标准偏差(RSD):为偏差与平均值之比,用百分率表示。
RSD S 10% 0 X
读数误差 溶液体积24.41ml
±0.01ml
II. 有效数字的意义:
9
1.能表示测量数值的大小,可反映出用于测量的量具。
74.6334g ±0.0001g
II. 有效数字的意义:
10
2.记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。
0.5100g
0.510g
绝对误差 0.0001
III. 数值修约规则
18
1、确定修约间隔 A. 指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;
例:修约间隔10-1 B. 指定修约间隔为1,或指明将数值修约到“个”位数; C. 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,
或指明将数值修约到“十”、“百”、“千”……数位。
III. 数值修约规则
19
2、进舍规则 A. 四舍六入五成双
例,修约间隔0.1( 或10-1 ) 7.549 →75 × 10-1 (特定场合可写成7.5 )
8.736.945→084× 10-1 (特定场合可写成8.4) 1 7.4500 →74× 10-1 (特定场合可写成7.4 )
7.3500 → 74× 10-1 (特定场合可写成7.4 )
拟修约 2X 数值X
60.25
120.5
0
60.38
120.76
2X修约 值 120
121
X修约 值 60.0
60.5
III. 数值修约规则
25
C. 0.5单位修约与0.2单位修约 ② 0.2单位修约
是指按拟定修约间隔对拟修约的数值0.2单位进行的修约。 将拟修约数值X乘以5,按指定修约间隔对2X依规定修约,所得数值再除以5。 如:将下列数字修约到“百”数位的0.2单位修约
4156.45 515
46
III. 数值修约规则
21
B. 一次修约 例: 用国标的直接干燥法测定 ( GB 5009·3-2016) , 当样品重
量为 3. 2986 g , 称量铝盒加入样品干燥前后的重量之差为0. 1542g, 运算后的数值为 4. 674710483 (g/100g) 。 按附录 A6. 1. 4 修约后, 保留四位有效数, 即水分 ( g /100 g ) 4. 675, 报告结果时按比卫生标准多一位有效数再次修约保留三位有效数, 即水分 ( g / 100 g )4. 68。 犯了连续修约的错误。此时应按比卫生标准多一位有效数进行一 次修约得出报告结果, 即水分( g / 100 g ) 4. 67。
0.001
相对误差 0.0001/0.5100= 0.02% 0.001/0.510= 0.2%
III. 有效数字的运算规则
11
➢ 除特殊规定外,一般可疑数表示末位一个单位的误差。 ➢ 复杂运算时,其中间过程多保留一位有效数字,最后结果须取应有的位
数。 ➢ 加减法计算的结果,其小数点以后的保留的位数,应与参加运算各数中
不允许连 续修约
III. 数值修约规则
22
B. 一次修约 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多
一位或几位报出,而后由其他部门判定。为避免产生连续修约的错 误,应按下述步骤进行。 ①报出数值最右的非零数字为5时,应在数值后面加“+”或“-”或不 加符号,以分别表明已进行过舍、进或未舍未进。 如:16.50+表示实际值大于16.50,经修约舍弃成为16.50;16.50-表示 实际值小于16.50,经修约进一成为16.50。
II. 精密度的测定
28
测定:在某一实验室,使用同一操作方法,测定同一稳定样品时,允许变 化的因素有操作者、时间、试剂、仪器等,测定值之间的相对偏差即为该 方法在实验室内的精度。
III. 精密度的表示
1. 绝对偏差与相对偏差 A. 绝对偏差(d): 是某一测定值Xi与平均值x之差。
d X X i
拟修约 5X 数值X
830
4150
842
4210
832
4160
5X修约 X修约
值
值
4200 840
4200 840
4200 840
三、精密度
26
I. 精密度的定义 II. 精密度的测定 III. 精密度的表示
I. 精密度的定义
27
精密度: 表示在相同条件下,同一试样的重复测定值之间的符合程度。精密 度高低用偏差大小表示。
17.5000
17.5
修约值
15
17 18
III. 数值修约规则
24
C. 0.5单位修约与0.2单位修约 必要时,可采用0.5单位修约和0.2单位修约。
① 0.5单位修约 是指按拟定修约间隔对拟修约的数值0.5单位进行的修约。 将拟修约数值X乘以2,按指定修约间隔对2X依规定修约,所得数值再除以2。 如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5)
III. 数值修约规则
23
B. 一次修约 ② 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而
后面无数字或皆为零时,数值后面有“+”者进一,数值后面有“-” 者舍去。 例如:将下列数字修约到个数位后进行判定(报出值多 留一位到一位小数)
实测值 报出值
15.4546 16.5203
15.5(一) 16.5(+)
四、准确度
31
I. 准确度的定义 II. 准确度的测定 III. 准确度的表示
I. 准确度的定义
准确度:测定值与真实值符合的程度
II. 准确度的测定
测定:某一稳定样品中加入不同水平已知量的标准物质(将标准物质的 量作为真值)称加标样品;同时测定样品和加标样品;加标样品扣除样 品值后与标准物质的误差即为该方法的准确度。
13
3. 成方、立方、开方,有效数字位数 例如:6.542=42.8
7.562.75
4. 进行对数计算时,对数尾数的位数应与真数的有效数字位数相同。 例如:[H+]=6.3×10-11mol/L,PH=10.20
III. 有效数字的运算规则
14
5. 计算中涉及到常数 π、e以及非测量值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。
[H+]=2.1×10-13mol/L
两位
I. 有效数字的定义:
7
➢ 从第一位不为“0”数起 ➢ 科学记数: 3600、3.6×103 、3.600×103 不同 ➢ 倍数、分数、次数等视为无限多位 ➢ 对数如pH、pM、lgK等取决于小数部分(尾数)
例: ① 1.0008 ② 10.98% ③ 1.23×10-5 ④ 0.024
前面两个0不是有效数字,后面的1、0、9均为有效数字。
0.0230?
前面的两个0不是有效数字,后面的2、3、0均为有效数字。
3.109*10^5?
3、1、0、9均为有效数字,后面的10的5次方不是有效数字。
5.2*10^6? 5、2是有效数字。
pH=12.68 ???
I. 有效数字的定义:6源自氢离子浓度指数:是指溶液中氢离子的总数和总物质的量的比。一般称 为“pH”,而不是“pH值”。 表示溶液酸碱度的数值,pH=-lg[H+]即所含氢离子浓度的常用对数的负值。 pH=12.68,即
B. 相对偏差(Rd): 是绝对偏差与平均值之比,常用百分率表示。
Rd d 100% X
C.
平行样相对误差(%)
|X1 X2| X1X2
100%
2
III. 精密度的表示
2. 标准偏差
A. 算数平均值(X):
n
Xi
XX1X2 Xn i1
n
n
B. 标准偏差(S):它反映随机误差的大小。
一、有效数字 1 二、数字修约的规则 三、精密度 四、准确度 五、精密度与准确度
珠海
一、有效数字
2
I. 有效数字的定义 II. 有效数字的意义 III. 有效数字的运算规则
I. 有效数字的定义:
3