午
考场座号
日
试卷类型
月
装
2011 ——2012 学年 第一学期
课程名称： 考试形式： 闭卷）考核方式： 考试） 课程名称：信息理论与编码 考试形式： 闭卷）考核方式： 考试） （ （
□A 卷
考试时间
年
题号 得分
一
二
三
四
五
六
七
八
总分
评阅人 签 名
学号
订
得 分
1．信息就是一种消息。
一、判断题(每空 1 分，共 10 分)
道可达到该 Dmax 和 Dmin 的失真度。
4．有一信源它有四种可能的输出，其概率分布如下图所示，表中给出了对应的码 A、B、 C、D 和 E 。 1）求这些码中哪些是非奇异码； 2）求这些码中哪些是唯一可译码； 3）求哪些是非延长码（即时码） 。 消息 a1 a2 a3 a4 概率 1/2 1/4 1/8 1/8 A 00 01 10 11 B 0 01 011 0111 C 0 10 110 1110 D 0 10 110 111 E 0 01 001 111
（ ）
8．信源变长编码的核心问题是寻找紧致码（或最佳码） ，霍夫曼编码方法构造的是最佳码。 （ 9．信息率失真数 R(D)是关于平均失真度 D 的上凸函数. ( ） )
10．设 P 为某马尔可夫信源的转移概率矩阵，若存在正整数 N 使得 PN 中的元素全都为 0， 则该马尔可夫信源存在稳态分布。 （ ）
订
2．在图片传输中，每帧约有 2 × 106 个像素，为了能很好地重现图像，每像素能分 256 个 亮度电平，并假设亮度电平等概分布。试计算每分钟传送两帧图片所需信道的带宽（信噪 功率比为 30dB）（其中 log 2 1001 ≈ 9.97 ） 。
线
第 3 页 共 6 页
试卷名称：08 电子本信息理论与编码试卷 A
（2） 、编二进制 Huffman 码，画出其码树图，并求平均码长及编码效率； （11 分） （3） 、编二进制费诺码，画出其码树图，并平均码长及编码效率。 （11 分）
第 6 页 共 6 页
试卷名称：08 电子本信息理论与编码试卷 A
7． 已知某线性分组码的最小汉明距离为 3， 那么这组码最多能检测出________个码元错误， 最多能纠正________个码元错误。
第 2 页 共 6 页
试卷名称：08 电子本信息理论与编码试卷 A
得 分
三、计算题（本题共 4 小题；第 1 小题 12 分，第 2 小题 14 分，第 3 小题 14 分，第 4 小题 8 分，共 48 分）
线
年级
1．试题可采用粘贴方式，请用 B5 纸打印，粘贴时不要超过边框。 2．本科课程的试题一般不留答题空间，答案写在专用答题纸上，专科课程试题一般要留答题空间，答 案直接做在试卷上。 命题教师签名： 吴燕 系主任签名： 日 期
第 1 页 共 6 页
试卷名称：08 电子本信息理论与编码试卷 A
7．非奇异码不一定是唯一可译码，唯一可译码一定是非奇异码。
第 4 页 共 6 页
试卷名称：08 电子本信息理论与编码试卷 A
得 分
小题， 四、证明题（本题共 2 小题，每小题 4 分， 证明题（ 共 8 分）
1．若 X、Y、Z 是三个随机变量，试证明： I ( X ; YZ ) = I ( X ; Y ) + I ( X ; Z / Y )
装
订
2．证明：有两个随机变量 X 和 Y，其和为 Z = X + Y（一般加法） ，若 X 和 Y 相互独立， 求证： H(X) ≤ H(Z)
线
第 5 页 共 6 页
试卷名称：08 电子本信息理论与编码试卷 A
得 分
五、综合题（共 24 分） 综合题（
1．已知 6 符号离散信源的出现概率为： 试计算： （1） 、求信源熵 H(X)； 分） （2
a1 1 / 2
a2 1/ 4
a3 1/ 8
a4 1 / 16
a5 1 / 32
， 1 / 32 a6
（ ）
2．信息论研究的主要问题是在通信系统设计中如何实现信息传输、存储和处理的有
姓名
效性和可靠性。 3．概率大的事件自信息量大。 4．互信息量可正、可负亦可为零。
（
）
（ ） （ ）
5．信源剩余度用来衡量信源的相关性程度，信源剩余度大说明信源符号间的依赖关
专业班级
系较小。
（ ）
6．对于固定的信源分布，平均互信息量是信道传递概率的下凸函数。 （ ）
0 1 4．若信道矩阵为 0 0
0 0 0 1
1 0 0 0
0 0 ，求其代表的信道容量_______________。 1 0
C
5．设有一离散无记忆平稳信道，其信道容量为 C，只要待传送的信息传输率 R
（大于、小于或者等于） ，则存在一种编码，当输入序列长度 n 足够大，使译码错误概率 任意小。 6．对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是 。
(1) 假设图上黑白消息出现前后没有关联，求熵 H(X)；(2 分) (2) 假设消息前后有关联，其依赖关系为 P(白/白) = 0.9，P(黑/白) = 0.1，P(白/黑) = 0.2， P(黑/黑) = 0.8，求此一阶马尔可夫信源的熵 H2(X);（5 分） (3) 分别求上述两种信源的相对剩余度，比较 H(X)和 H2(X)的大小，并说明其物理含义。 （5 分）
3．若某无记忆信源
X − 1 = P( X ) 1 / 2
0 1/ 4
1 1 ，接收符号 Y = − , ，其失真 1 / 4 2 2 1
1 矩阵为 D = 1 2
2 1 。求信源的最大平均失真度和最小平均失真度，并求选择何种信 1
得 分
二、填空题(每空 1 分，共 10 分)
1．在现代通信系统中，信源编码主要用于解决信息传输中的 于解决信息传输中的 。 。
，信道编码主要用
2．若随机事件发生 a i 的概率为 1/2，那么它的自信息量为 3．某离散无记忆信源 X，其符号个数为 n，则当信源符号呈 熵取最大值 。
分布情况下，信源
1．黑白气象传真图的消息只有黑色和白色两种，即信源 X={黑，白}。设黑色出现的概率
装
为 P( 黑 ) = 0.3 ， 白 色 出 现 的 概 率 为 P( 白 ) = 0.7 。 其 中 − log 2 0.1 ≈ 3.322 ， （
− log 2 0.2 ≈ 2.322 ， − log 2 0.3 ≈ 1.738 ， − log 2 0.7 ≈ 0.515 ， − log 2 0.8 ≈ 0.322 ， − log 2 0.9 ≈ 0.152 ）