第十章设计和实施形成性评价目标●能够说出对教师开发的材料、教师选择的材料和教师呈现的教学进行形成性评价的目的,所进行的形成性评价有哪几个阶段组成●能够说出几种形成性评价常用的评价量表●能够为一组教学材料或教师呈现的教学制定合适的形成性评价计划,设计评估量表●能够按照对教学材料或教师呈现型教学所制定的形成性评价计划搜集数据背景在30年前开发教学材料的情景是这样的:将你的初稿,也许是修改后的初稿,直接当作成品,发给目标人群。
结果,由于初稿的不完善,在使用过程中总是会出现很多问题。
教师被指责为不会教,学习者被批评说不好好学,而实际上是教学材料不能够很好地支持他们的教与学。
在二十世纪六十年代随着大型课程开发项目的出现,这种未经测试的教材所引起的问题更加突出。
在那个时代,“评价”这个概念被定义为新产品和已有产品的有效性比较。
在进行这类研究的时候,研究者们经常发现使用新课程材料的学习者成绩相对较低。
在对这种情况研究之后,克罗班彻和斯克瑞温认为必须拓展“评价”的概念。
他们建议开发者实施后来被称之为形成性评价(formative evaluation)的活动——即在教学材料的开发过程中搜集用于改善教学效度的数据和信息。
有研究表明每年美国卖出的数千种教学产品都没有经过学习者评价,在分发前也没有做过修正。
还有研究表明即使是只找一个学习者来试用,根据其使用情况修改教学材料,也会明显改善教学材料的教学效果。
因此,教学设计模型的这个阶段强调有必要从目标学习者那里收集与教学材料的使用及教学效度相关的数据,用这些信息使教学材料更加有效。
你应该注意到教学设计模型中设计和开发过程的各个步骤都以理论、研究以及常识为基础。
在此刻,你要作为评价人员收集你所开发的教学材料的有效性数据,按照教学设计模型,你应该已经完成了教学材料的开发,并寄希望于它能够帮助那些原先不能完成学期目标的学习者取得重大成就。
你现在正处于要验证这一假设的关键时刻。
形成性评价起初是用来作为改进教学的一个过程,在教学材料的第一稿开发出来后进行。
但是,有经验的设计人员发现,应该在设计过程的早期各阶段都进行,以防止大量的问题直到教学材料初稿完成后才被发现。
让我们回想一下,在我们讲到教学情境分析的时候,曾经建议使用教学分析的结果向从目标学习者中挑选出来的一些学习者解释你将要教他们什么;在你选择好教学策略之后,我们也建议你用类似的方法——即用你选定的方法来教一些学习者,力求在使用它指导教学开发之前发现策略中存在的问题。
上述这两个过程都可以视为形成性评价,因为你在从学习者那里收集信息,在进入设计过程的下一步之前修改教材。
现在你要做类似的事情,以更加系统化的方式,对待你所开发的教学。
这一章和下一章的内容划分相当随意,我们一般都认为形成性评价和对教学材料的修改是同一步骤。
为了更加清楚地说明这个问题,同时也为了强调在教学材料修正过程中对教学设计全过程进行再度审视的重要性,我们特意把形成性评价的设计和实施从教学材料的修正过程中分离出来单独说明。
在这一章,我们将要讨论如何应用形成性评价的方法,对新开发出来的教学材料、选择并修改的材料、教师传递的教学,以及这三种方式的结合体进行形成性评价。
我们还将说明如何把这些方法运用到教学过程中去,以确保教学无论是采用哪种呈现模式,都能够被恰当地实现和管理。
概念这一章最主要的概念就是形成性评价。
形成性评价是教学设计人员用来获取数据,并通过这些数据修正他们的教学,提高教学效率效果的过程。
形成性评价的重点是搜集数据,分析数据,改进教学。
当教学的最终版本一经完成,就要由其他的评价人员来采集数据并确定其有效性,这后一种评价经常叫做总结性评价(summative evaluation)。
称其为“总结性”是因为这时候教学已经呈现其最终形态,而且此时也适合将它与其他类似形式的教学进行比较了。
形成性评价主要分为三个阶段:第一个阶段是一对一评价,或称为诊断性评价阶段,在这个最初的阶段中,设计师从单个的学习者身上采集数据并修正教学材料;第二个阶段称为小组评价阶段,一个由8至20个目标人群的典型代表组成的小组,利用教学材料自行学习,然后通过对他们的测试来采集所需要的数据;第三个阶段通常称为实地试验,在实地试验阶段,有多少名学习者并不是特别重要,一般30个就足够了,关键是试验过程要有一个与“真实世界”尽可能接近的教学情境。
形成性评价的这三个阶段都是由一些并未直接参与教学开发项目,但是有相关经验的专家通过审核教学过程来完成的。
下面先介绍这些评价人员的角色,然后再介绍形成性评价三个以学习者为导向的阶段。
学科专家、学习专家和学习者专家在形成性评价中的角色尽管形成性评价过程的核心是采集学习者的数据,但是请专家对教学做评审也很重要。
教学设计师本身也许很熟悉教学内容,也许还有领域专家的协助,也许他也非常了解教学的目标人群,但是,仍旧有很多理由要求听取外部专家的意见。
当教学的第一稿写完之后,设计师可能会面临“只见树木不见森林”的问题,他们可能对教学材料熟视无睹,这时让局外人来评价已开发的成果具有无法估量的意义。
一种“局外人”是项目之外对于教学内容领域十分熟悉的专家,这个领域专家(SME)主要评价教学内容的精确性和时新性。
尽管很多改进意见都可以接受,但是对于有关改变教学策略的建议要三思而后行。
另一种“局外人”是教学所包含的学习类型的专家。
一个熟悉该种学习类型教学的同事能够对你的教学策略提出批评意见,并告诉你能增进这类学习的教学理论。
另外,如果有人十分熟悉你的教学对象人群,那么听取他对你的教学草案的意见也是很有帮助的——因为他可以从学习者的视角和可能的反应看待你的教学并提出意见。
这类专家可以敏锐地洞察教学材料是否适用于最终的应用环境。
教学设计师并非必须采纳这些专家的建议,也有人提出教学设计师可以等到从学习者那里采集来数据并总结出结论后,再根据这些结论决定是否采纳专家的意见。
不过,这至少使教学设计师在学习者开始参与形成性评价过程之前就对潜在的问题有所察觉。
与学习者的一对一评价在对教学的形成性评价三个阶段进行讨论的时候,我们假设设计师已经完成了初步的开发工作。
后面还会探讨对使用现有资料和由教师引导的教学进行形成性评价的过程。
形成性评价的第一个阶段,一对一评价(one-to-one evaluation)阶段的目的是确定并改正教学中存在的明显错误,从学习者那里获得对教学内容的最初使用数据和反馈。
这主要通过教学设计师和单个学习者的直接交流来完成,在这个阶段,教学设计师需要和三名或者三名以上具有代表性的学习者一起工作。
标准在开发教学策略和教学内容的时候,设计师和开发者要就教学内容、学习者、教学形式和教学情境做出多种转换和决定。
一对一的评价过程正好给教学设计师一个机会,让他们可以从学习者的角度出发,就他们在开发过程中所做出的转换和决定,进行最初的审视。
在评价过程中,设计师需要遵循的三个主要标准是:1、明晰度:对于学习者个体而言,信息或者呈现给他们的教学内容是否明了、清楚?2、影响力:教学对于学习者个体的态度和达到教学目标有没有影响?3、可行性:如果得到所需的资源(如时间、教学情境),教学的可行性有多大?这种一对一的评价可以用来验证设计师和开发者的预感是否正确,是否存在对目标人群的误解。
挑选学习者在形成性评价过程中,设计师所做出的最关键的决定就是选择什么样的学习者来参加研究。
这不是实验,所以无需从大量学习者中随机抽取样本。
实际上,设计师只是要挑选几个能够代表目标人群的学习者,这些学习者要能够代表目标学习者的能力范围,因为先前学过的知识和能力也会影响他们学习新知识和新技能。
设计师在挑选学习者的时候,可以挑选一个能力超过平均水平的(当然,不能是水平最高的),一个处于平均水平的和一个低于平均水平的。
然后,和每个学习者单独工作。
在完成了与这三个学习者的初步评价之后,有时候设计师还会从目标学习者中再多挑选几个学习者进行一对一评价。
通常有三个学习者也就足够了。
设计师除了要关注能力因素以外,还要关心其他与学习者的成绩密切相关的学习者个性特点,在形成性评价中系统地考虑。
就像我们在第五章中提到的那样,态度和学习者先前的经验非常重要,应该在形成性评价过程中有所体现。
比如,在形成性评价的一对一阶段,设计师可以挑选一个对所学的内容具有积极态度的学习者,一个态度一般的和一个持消极态度的。
类似地,如果工作经验也是一个重要因素的话,那么就可以挑选一个在这项工作上有十年以上工作经验的,一个有两年到五年工作经验的,和一个工作不到一年的。
主要的观点就是:在挑选学习者参与形成性评价的时候,能力不是唯一关键的因素。
设计师需要根据不同的教学设计环境做出不同的决定。
数据采集一对一评价中三个主要的评判标准和要做出的决定可以帮助评价者专注于各类有用的信息。
表10.1包含了用明晰度、影响力和可行性三个标准划分的信息种类,表中每个标准类列出的内容只是示例性的,并没有穷尽所有,因为各类信息的相关度会根据学习者的成熟度、教学内容和传递方式而有所不同。
表10.1一对一试验形成性评价标准和每项标准的信息种类标准讯息链接过程教学的清晰度●词汇水平●句型复杂性●讯息复杂性●引言●具体阐述●结论●过渡●背景●实例●类比●图解●示范●回顾●总结●顺序安排●教学块大小●教学过渡●教学步调●呈现变换态度成绩对学习者的影响力●信息及技能的有用性(相关性)●要学的信息及技能的难易程度(自信心)●学习者对已学技能的满意程度●后测做题指导及题目的清晰性●后测的成绩学习者资源可行性●成熟度●独立性●动机水平●时间●设施●环境对于教学的清晰度,上表列举了三大类信息:讯息、链接和过程。
第一类,讯息,表示传递给学习者的基本讯息是否清楚明了,与基本讯息相关的考虑包括以下几个方面:词汇、句子的复杂性和讯息结构。
无论学习者是读、是听、还是看这些讯息,他都必须要能够理解。
第二类,链接,指的是基本讯息是如何根据学习者定制的。
这些链接包括上下文、例子、类比、图例、演示等等。
当学习者不熟悉这些链接时,基本讯息无疑就变得比较复杂了。
第三类,过程,指的是教学的一些特征,诸如教学的顺序、所呈现教学块的大小、两个教学块之间的过渡、教学步调,以及教学呈现中的变化等等。
当上述各要素之一对学习者不适合的时候,教学的清晰度就发生了变化。
比如教学进度过慢,反复过多,学习者就会丧失兴趣;相反,如果教学进度过快,学习者的理解就会变得有些困难。
描述性信息比数量数据更能提供改进教学清晰度的有用信息。
如果教学是通过平面媒体呈现的,无论是在纸上还是在计算机屏幕上,学习者都可以在他们不熟悉的词汇、不清楚的例子、示例和段落下面划线或做标记;他们还可以在他们搞不懂的图表上面做标记。
在使用录像带或者幻灯片的时候,学习者可以简略的记录下来哪些术语或者资料是他们不太明白的,也可以随时把录像机或者幻灯机停下来,和评价人员就不清楚的段落或术语交流。