信息论与编码-教案
授课时间
2009-2010第一学期
周次
第1周,第1次课
编写时间
2009.8.29
章节名称
1概论
教学目的与要求:
理解信息的概念、性质和分类,了解通信系统的构成及编码理论在其中的作用,了解信息论的起源、发展及研究内容。
教学重点和难点:
教学重点:信息的概念
教学难点:香农信息论的三大定理
教学组织(含课堂教学内容、教学方法、辅助手段、师生互动、时间分配、板书设计等):
3自信息量,直观定义信息量为收到某消息获得的信息量=不确定性减少的量=收到此消息前关于某事件发生的不确定性-收到此消息后关于某事件发生的不确定性,讲解10分钟
4联合自信息量,讲解10分钟
5条件自信息量,讲解10分钟
6互信息量,讲解10分钟
7互信息的性质,即对称性和可正可负,讲解25分钟
8条件互信息,讲解10分钟
4信息的分类,(1)从性质分:语法信息、语义信息、语用信息。(2)按观察的过程分:实在信息、先验信息、实得信息。(3)按信息的地位分:客观信息、主观信息。(4)按作用分:有用信息、无用信息、干扰信息。讲解10分钟
5模拟通信系统,该系统传递的是模拟信号,它在任意时刻的取值是任意的,是时间的连续函数。讲解10分钟
教学目标
通过本课程的学习,使学生对信息理论和编码理论有比较全面和系统的了解,掌握信息论的基本概念、基本理论和基本分析方法,包括信源熵、信道容量和信息率失真函数等;掌握常用的信源编码方法,包括香农编码、费诺编码、哈夫曼编码、矢量量化编码和预测编码等;掌握常用的信道编码,包括线性码、循环码等,为从事信息科学的研究和应用打下坚实的基础。
6数字通信系统,该系统中传输的是数字信号,它只能取有限个离散值,且出现的时间也是离散的。讲解5分钟
7信息论的发展简史,讲解10分钟
8信息论的研究内容,研究目的是提高通信系统的可靠性和有效性。(1)可靠性高:使信源发出的消息经过传输后尽可能准确地不失真地再现在接收端。(2)有效性高:经济效果好,用尽可能短的时间和尽可能少的设备传送一定数量的信息。讲解10分钟
成都理工大学工程技术学院
信息论与编码课程教案
教师姓名刘晓丽
所在系部电信系
授课专业07通信
课程代码
总学时50学分
教材名称信息论与编码
2009年8月29日
[首页]
课程名称
信息论与编码
授课专业
通信工程
年级
2007
课程编号
课程类型
必修课
公共基础课();专业基础课(是);专业课()
选修课
专业选修课( );公共选修课( )
教学重点和难点:
教学重点:自信息量、条件自信息量、联合自信息量、互信息及其性质
教学难点:互信息及其性质
教学组织(含课堂教学内容、教学方法、辅助手段、师生互动、时间分配、板书设计等):
1信源模型,获得信息量的多少与信源的不确定性的消除有关。不确定度——惊讶度——信息量,讲解5分钟
2基本概率公式,p(bj|ai)是信道传递概率,称为前向概率,p(ai |bj)称为后向概率,也是输入符号的后验概率,p(ai)是输入符号的先验概率。讲解10分钟
3熵函数的数学特性,即非负性、对称性、扩展性、确定性、可加性、极值性、上凸性,最大离散熵定理,讲解25分钟
4条件熵,条件熵是在联合符号集XY上的条件自信息量的联合概率加权统计平均值。条件熵H(X|Y)表示收到全部输出符号后,对信道输出符号集还存在的平均不确定性,称为信道疑义度。条件熵H(Y|X)可以衡量信号通过信道后损失信息量的多少。讲解10分钟
授课方式
课堂讲授(是);实践课()
考核方式
考试(是);考查()
课程教学总学时数
50
学分数
学时分配
课堂讲授50学时;实践课0学时
教材名称
信息论与编码
作者
陈运
出版社及出版时间
电子工业出版社2007
指定参考书
信息论与编码
作者
姜丹
出版社及出版时间
中国科学技术大学出版社,2004
授课教师
刘晓丽
职称
助教
单位
电信系
教学难点:信源熵主要性质的证明
教学组织(含课堂教学内容、教学方法、辅助手段、师生互动、时间分配、板书设计等):
1关于自信息和互信息的几道典型题,讲解30分钟
2信源熵是各离散消息自信息量的数学期望,即信源的平均信息量,信源熵和平均自信息量两者在数值上是相等的,但含义并不相同。信源熵表征信源的平均不确定度,平均自信息量是消除信源不确定度所需要的信息的量度。信源一定,不管它是否输出离散消息,只要这些离散消息具有一定的概率特性,必有信源的熵值,这熵值在总体平均的意义上才有意义,因而是一个确定值。讲解15分钟
1提出课堂纪律要求,强调本课程的重要性,介绍本课程的大体情况,讲解20分钟。
2信息的概念,信息是认识主体所感受的或所表达的事物的运动状态和运动状态的变化方式。讲解10分钟
3信息的性质,(1)普遍性:信息是普遍存在的。(2)无限性:信息是无限的。(3)相对性:对同一事物不同的观察者所获得的信息量可能不同。(4)转换性:信息可以在时间上或空间中从一点转移到另一点。(5)变换性:信息是可变的,它可以由不同的载体或不同的方法来载荷。讲解5分钟
5联合熵,联合熵是在符号集XY上的每个元素对xiyj的自信息量的概率加权统计平均值,讲解10分钟
作业及课外训练:2.4,2.5,2.7
参考资料(含参考书、文献等):
课后自我总结分析:
理解熵的概念和物理意义十分重要。
周次
第3周,第4次课
编写时间
2009.9.8
章节名称
2.1.5平均互信息2.1.6各种熵之间的关系
作业及课外训练:2.1,2.2,2.3
参考资料(含参考书、文献等):
课后自我总结分析:
自信息量的概念还是比较容易理解的,关键是使学生明白互信息及其性质。
周次
第2周,第3次课
编写时间
2009.9.1
章节名称
2.1.3信源熵
教学目的与要求:
掌握信源熵及其主要性质、联合熵、条件熵
教学重点和难点:
教学重点:信源熵及其主要性质、联合熵、条件熵
9编码技术的发展Leabharlann 讲解10分钟作业及课外训练:
参考资料(含参考书、文献等):
课后自我总结分析:
引导学生正确认识本课程,虽然理论性有些强,但还不是太难学懂。
周次
第2周,第2次课
编写时间
2009.9.1
章节名称
2.1.1信源模型2.1.2自信息
教学目的与要求:
掌握信源的数学模型、信源符号的自信息量、条件自信息量、联合自信息量、互信息及其性质