使用SHARP EL-5100计算相对标准偏差(RSD )、标准工作曲线、相关系数(r )和农药降解动态方程示例
注意:本计算器部分数码管失灵,可通过调整小数点位数读出。
具体是按左侧
3位,按
4位……。
1 计算相对标准偏差(RSD )、标准工作曲线、相关系数(r )示例 1.1计算相对标准偏差(RSD )
分析测试结果的精密度通常用相对标准偏差(RSD )表示,过去也有用变异系数(CV )表示的。
目前,我国相关标准中规定精密度用相对标准偏差(RSD )表示。
以下列一组测试数据为例计算相对标准偏差(RSD )。
表1 一组测定数据的统计值
打开计算器电源将右下角的开关拨至统计档,
按黄色的和红色的清空内存。
输入数据20.5,按蓝色的1.0000…., 依次输入21.3,按蓝色的 2.0000…., 直至8组数据输入完毕。
按黄色的X ;按黄色的
Sx ; 用Sx /X
×100= RSD
在常量和痕量分析中,对RSD 有不同的要求,将测定值的RSD 同标准中规定的RSD 相比,判断是否超差。
超差则说明测定方法有问题。
分析测定方法中的准确度通常用回收率表示,即测定值与添加值的比值。
常量分析为99~101%;痕量分析(如农药残留分析)通常为80~120%。
添加通常采用“半量”添加的方法,比如原溶液中测定有50ng组分,再添入50ng组分。
农药残留的添加回收通常是在空白对照样品中添加。
1.2标准工作曲线、相关系数(r)示例
表2 标准工作曲线数据统计
打开计算器电源将右下角的开关拨至统计档,按黄色
的和红色的清空内存。
输入数据10
然后输入数据1020,按 1.0000…., 依次输入20,输入数据
2040,按蓝色的 2.0000…., 直至7组数据输入完毕。
按
提取截距a; 按提取斜率b ; 按提取相关系数(r)。
将得到的r同表5比较。
本组n=5, 若线性相关(水平0.01,即100次试验,有99次应这样),r = 0.874,而本试验计算得r = 0.9999,说明成极好的线性回归关系;反之则不然。
本计算器的直线回归方程为Y = a+bX。
有时对进样量、峰面积取单对数或双对数时,二者才能呈线性关系。
这与检测器特性有关。
2 计算农药降解动态方程示例
当X 与Y 在单对数坐标系上画图呈直线时,表明函数属于Y =de bx 的变量关系,即In Y =bX +In d , 令Y’=In Y , B =In d , M=b , 则化为直线式: Y’=MX+B 此时, 截距 2
2
)(ln ln 2
X
n X X
Y X Y X B ∑-∑∑∑-∑∑=
斜率
2
2
)(ln ln X
n X Y X n Y X M ∑-∑∑-∑∑=
大多数农药降解动态可用方程Ct = C 0 e -Kt 来具体表达,即通常所说的化学一级反应动力学方程。
Ct=Y ,d=C 0,b=K=M ,X=t 。
由于农药在环境中的浓度通常是较低的,因此我们可以用下式来表达:
…………………………………………………………………(1)
将(1)式积分得:
Ct = C 0 e -kt ………………………………………………………………(2) 式中,K 为降解速率常数;C 0为农药的初始浓度;也叫原始沉积量;Ct 为t 时刻农药的浓度。
对(2)式取对数得:
0ln ln C Kt Ct +-= (3)
kc dt
dc =-
(4)
当施用的农药降解50%,即Ct =1/2C 0时,所需时间叫降解半衰期,以T 1/2表示时: K
K
T 693.02ln 2/1=
=
…………………………………………………………(5)
式(5)说明T 1/2与降解速率常数K 成反比,与农药初始浓度C0无关。
同理T 0.99即农药降解99%所需时间可按下式计算:
K
K
T 595.499ln 99.0==
……………………………………………………(6)
式(3)~(5)推算细节:
Ct C KT -=0ln Ct C Kt 0
ln =
K
Ct
C t 0
ln =
令Ct =1/2C 0
K
K K C C K C C T 693.02ln 2ln 21ln
2/100
===
=
(7)
大多数农药在农作物上和环境中的残留量(浓度),随施药后的时间(天)变化以近似负指数函数递减的规律变化。
以甲基毒死蜱在甘蓝及土壤上的消解动态数据为例,具体介绍求降解动态方程实例。
Ct
C Kt 0ln
=
表3 甲基毒死蜱在甘蓝及土壤上的消解动态
施药剂量g/ha(a.i.) 取样间隔
时间
(d)
甘蓝土壤
平均残留量
(mg/kg)
消解率
( % )
平均残留量
(mg/kg)
消解率
( % )
720 1/24 5.82 — 2.12 —
1 1.10 81 1.1
2 47
2 0.19 97 0.59 72
3 0.06 99 0.26 88 7 0.02 99 0.07 97 1
4 0.002 99 0.02 99 21 0.002 99 0.006 99
原始沉积量所对应的时间为1/24天,即喷药后1小时。
以X表示时间,Y表示残留量。
在计算回归方程时,通常只取降解率达90%以上的1~2组数据。
即甘蓝上取4组数据,土壤上取5组数据。
将Y转换成ln Y,或直接输入具有计算直线回归方程功能的计算器计算。
以SHARP EL-5100计算器为例,甲基毒死蜱在甘蓝上的降解动态方程,计算结果为:r=-0.9957,是否相关,及相关显著水平,可查相关系数检验表(表2),v=4-2=2, P0.05=0.950, P0.01=0.990,因此该方程可以模拟该种药剂随时间变化的情况。
a=1.7119,b=-1.5666=K。
取a
值自然对数为C 0=5.5397,因此Ct = 5.5397e -1.5666t 。
按式(5)d
K
T 4.05666
.1693.02ln 2/1≈==
由此,我们可以得出甲基毒死蜱在甘蓝上的降解动态方程为: Ct = 5.5397e -1.5666t ,T 1/2=0.4d ,r =-0.9957,显著水平为P 0.01。
按照上述计算过程,可同理计算出土壤上的降解方程。
图 1 甲基毒死蜱在甘蓝上的消解动态曲线
01
23
4
56
4
8
12
16
20
d
m g /k
g
图 2 甲基毒死蜱在甘蓝上的消解动态曲线
-8
-6
-4
-2
02
4
6
l n m g /k g
对某些除草剂可用Ct=C0t-k回归。
数据处理取双对数,即X和Y都取对数。