当前位置:
文档之家› 第七章--人员测评的信度与效度
第七章--人员测评的信度与效度
二是影响稳定性的原因:什么因素造成了这 种差异;这些影响的相对作用有多大。
6.1.2 信度的作用
信度高低的指标通常以相关系数表示,称 为信度系数。信度系数一般是同一样本所得的 两组资料的相关,在理论上表示为实得分数与 真实分数相关的平方。信度系数公式:
rxx
rxr2
ST2 SX2
其中: rxr
6.2 .2如何评估人员测评的效度
6.2 .2 .1内容效度
1.内容效度的定义
内容效度是指测评内容取样是否反映测评 的目标,适用于测评对象。
2.内容效度的评估方法 ·测评内容范围明确; ·测评内容的取样有代表性。
采用如下步骤: 1)确定总体范围; 2)编制双向细目表; 3)制定评定量表。 还可采用经验的方法、统计分析方法。
6.2 .3影响效度的因素 测评本身带来的影响因素
1.测评题目的质量 2.实施测评时的于扰因素 3.被试的影响因素 4.测评的长度 样本团体的性质 效标的性质
如果其他条件相同,所测评的行为或心理 特质与效标行为或特质越相似,效度系数就越 高。
概念与思考题:
重测信度、复本信度、内部一致性、信度、 分半信度、同质性信度、评分者信度、内容效 度、效标关联效度、构想效度、效标效度、相 容效度、预测效度、同时效度、会聚效度、观 念效度、区分效度、效标测评
下面是KR20公式:
rKR 20
n
n
1
1
n
Pi qi
i 1
Sx2
其中n为测评题目数,p i 为通过i 题的人数比例;
qi为未通过该题的人数比例;pi qi =1; n Pi q i i1
为所有题目答对与答错人数百分比乘积的总和。
6.1.4 评分者信度
在有些测评中,评分者的评判也是误差的 来源之一。
2
W
S 1 K2 N3 N
N i1
Ri2
Ri
i1
N
1 K2 N3 N
12
12
其中,K为评分者人数,N为被评定的人数 或答卷数;Ri为评分者给某人(或某一答卷) 评分之和。
S
i1
Ri
2
为每一个对象被评等级。
例如,有4名评分者,对6份答卷进行评分,所 评等级如下:
3.内容效度的应用 内容效度最适合于评估教育和职业成就测评。 也适合于某些用于人员选拔和分类的测评。
6.2 .2 .2效标关联效度
效标关联效度,也称效标效度,它反映的 是测评分数与外在标准(效标)的相关程度, 即测评分数对个体的效标行为表现进行预测的 有效性程度。
效标是考察测评效用的外在参照标准。效 标关联效度往往用于预测性测评。
·以逻辑和实证的方法来验证假设,根据累积材 料决定这种理论是否能恰当地解释现有材料; 如果不能做出恰当解释,则应该修正上述假设, 直到能做出恰当的解释为止。
如:创造力测评构想效度。以测评分数与 根据创造力的心理学理论观察被试行为所做出 的判断做相关分析。
2.常见的确定构想效度的指标
(1)发展变化
(2)与其他测评的相关
答卷编号
评分者 一 二 三 四 五 六
甲
4
3
1
2
5
6
乙
5
3
2
1
4
6
丙
4
1
2
3
5
6
丁
6
4
1
2
3
5
Ri
19 11
6
8 17 23
Ri 19116817 23 84 Ri 2 192 112 62 82 172 232 1400
S 1400842 / 6 224
W
224
0.80
1 42 63 6
第七章--人员测评的信度与效度
6.1人员测评的可靠性——信度 6.1.1信度的定义
信度主要是指测评结果的可靠性或一致性。
由测评工具否精确引起的误差叫系统误差。
由操作是否到位引起的误差叫随机误差。
信度考虑两方面的问题。
一是稳定性:不同时间、不同测评条件下所 得分数之间的一致性有多大;一个人的所得分 数与“真实分数”之间接近程度有多大;是否 可以达到实际应用的程度等。
(3)因素分析
因素分析是分析行为资料内部关系、结构 特性的一种统计技术。
(4)内部一致性
如果测评的所有题目被验证为具有很高的 内部一致性,说明它们都是关于同一内容的, 属于同一种构想。
用来考察内部一致性的方法主要有三种:
1)考察总分数较高和较低两类人在各
题目上通过率的大小 ,如果通过率低,应淘汰 或修改。
3.测评的难度
测评的难度也会对信度产生影响。 如果一个测评的难度太低,出现天花板 效应;如果难度太大,出现地板效应,
6.2人员测评的效度
测评的效度就是指测评的有效性,即能测 评到所要测评目标的程度。效度是评价测评好 坏、选择测评的重要标准之一。
效度的作用比信度的作用更为重要。强调 测评目标、工具与测评对象的统一。
1.什么是测评的系统误差和随机误差?
2.重测信度和复本信度考察的内容有区别吗?
3.什么是内部一致性信度?它的意义是什么?
4.用分半法求信度为什么通常要进行修正?
5.怎样检查评分者评定的可靠性?
6.信度和效度是什么关系? 7.内容效度能用量化方法测评或表示吗? 8.内容效度适用于能力倾向测评和人格测
12
6.1.5 影响信度的因素 1.样本团体的性质 1)样本团体的分数分布
分数分布越广,信度系数就相对越高,分 数分布越窄,信度系数就会越低。
2)样本团体的异质性
一般来说,取样团体的异质性越大,信度 系数就相对越高。
但是在测评中,往往会因为团体过于同质或 过于异质而出现信度被低估或高估的情况。这 种情况下,可以采用下面的公式对求出的信度 进行修正:
ST SX
它是
真实分数标准差与实得分数标准差的比率。
其中,rxr 有时也称为信度指数,它是真实分数 标准差与实得分数标准差的比率。
方差:即每个被测评者得分与其算术平均
数差的平方和与总个数之商。公式:
Sx2
2
xx N
标准差公式: Sx
2
xx N
还可通过分析个人分数再测时的变化(误 差)来考察信度。两次测评分数的差异越大, 信度就越低。
如果需要在一个测评中测评不同的内容, 就应该将测评设计为几个分测评,每个分测评 测评一种内容。例如,16PF人格测评就是包含 16个分量表的测评,每个分量表只对一种人格 特质进行测评。
常用的同质性信度计算方法是库德—理查 逊估计方法。计算公式有库德—理查逊20号公 式(简称(KR20)和21号公式(KR21)。
分半法中的斯皮尔曼一布朗修正公式为:
rxx
2rhh 1 rhh
其中,rhh为两半测评的相关系数,rxx为估 计或修正后的信度。
当两半测评的方差不同时,应采用卢伦公 式或弗拉纳根公式进行修正。
卢伦公式只要求将被试在两半测评的分数 之差的方差(Sd2)和测评总分的方差(Sx2)代入 如下公式即可直接计算分半信度:
6.2 .1人员测评的有效性
效度的理论定义:与测评目标有关的真实 分数方差与总分方差的比率。 公式:
rxr
SV 2 SX2
其中,rxr 为测评效度;
S
为2 有效方差;
V
S
为2 总方差。
X
信度和效度的关系
信度考虑系统误差和随机误差;效度误差 还包括对测评目的无关的变量所引起的系统误 差。
效度的性质
实际上效度指的是“测评结果的效度”, 是指测评结果的准确性程度,而并不是指测评 本身。也反映了测评结果对测评目标的体现程 度。
评分者信度是指不同评分者对同样对象进 行评定时的一致性。最简单的估计方法就是随 机抽取若干份答卷,由两个独立的评分者打分, 再求每份答卷两个评判分数的相关系数。这种 相关系数的计算可以用积差相关方法。
如果评分者在三人以上,而且又采用等级记 分时,就需要用肯德尔和谐系数来求评分者信 度。其公式为:
N
r'xx rxSx'x/Sx 1r2xxS'x/Sx2
其中, r'xx 为估计的信度;rxx为取样的信度;SSXx
为取样团体的标准差;Sx ' 为估计团体(取样的
总体)的标准差。
3)不同团体间能力水平的差异
2.测评的长度
信度还会受测评长度(即题目的多少) 的影响。一般来说,测评越长,信度值 越高。
rxx
1
Sd 2 Sx2
其中Sd2为两测评分数之差的方差;Sx2为 测评总分的方差。
也可以采用弗拉纳根公式直接计算分半信
度:
rxx
21
Sa2 Sb2 Sx2
Sa2与Sb2为两个分测评分数的方差;Sx2为总分方差。
2)同质性信度
同质性是指所有测评题目测评的只是单一 特质或内容,表现为所有测评题目得分的一致 性。乐观情绪特质和外向特质、预测和决策、 监督与控制等都是不太容易区分的。
评吗?为什么? 9.主观评价能否用来做效标?为什么? 10.什么是构想效度?对人员测评的启示
是什么?
谢谢!
3.内部一致性信度
内部一致性信度主要反映的是测评内部题 目之间的关系,考察测评的各个题目是否测评 了相同的内容或特质。
1)分半信度
分半信度系数是通过将测评分成两半,计 算这两半测评之间的相关性而获得的信度系数。
分半法经常会低估信度,必须进行修正。斯皮 尔曼一布朗公式可以估计增长或缩短一个测评 对其信度系数的影响,用这个公式进行修正的 前提条件为:两半测评的方差相等。
1.预测效度和同时效度
预测效度的效标资料往往是测评结束后隔 一段时间才获得,它反映被试行为表现的预测 程度。