南京工程学院试卷B
一填空题（本题15空，每空1分，共15分）
1一信源有六种输出状态{a，b，c，d，e，f}，先验概率分别为P a=0.5，P b=0.25，P c=0.125，P d=Pe=0.05，P f=0.025。

消息“ababba”中所包含的信息量为（）bit，“fddfdf”所包含的信息量为（）bit。

6bit长度的消息序列信息量的期望值为（）bit。

2限失真信源编码定理指出，当信息率R与信息率失真函数R(D)满足（）关系时，只要信源序列长度L（），一定存在一种编码方法，其译码失真≤D+ε。

3一袋中有手感完全相同的3个黑球和3个白球，每次从中随机取一个球，取出的球放回袋中。

用Xi表示第i次取出的球的颜色，i=1,….,6，则H(X1)=（）bit/符号；H(X2)=（）bit/符号；H(X2/X1)=（）bit/符号。

4克劳夫特不等式为（），满足此不等式的变长码不一定是唯一可译码，因此它是唯一可译码的（）条件。

5设以8000样值/秒的速率抽样一个语音信号，每个抽样点以M=28=256级均匀量化。

且抽样值取各量化值的概率相等，且抽样间相互独立，则每抽样的信息熵为（）bit/符号，信源的信息输出率为（）bps。

6如某线性分组码的最小汉明距d min=6，其最大的检错能力为（），最多能纠正（）个错。

则线性分组码的检纠错能力与d min的关系是（）。

二判断题（本题10小题,每小题1分,共10分）
（1）对于离散信源而言，条件熵总是小于无条件熵。

（）
（2）互信息具有对称性，即I(U;V)=I(V;U)。

（）
（3）R(D)函数是D的连续函数，也是关于D的上凸函数。

（）
（4）如X可以唯一确定Y，则H(Y/X)=0。

（）
（5）完备码是一种监督位得到充分利用的码。

（）
（6）单符号离散信源在所有符号等概出现时，其熵值最大。

对于连续信源，也有类似
的结论，连续信源均匀分布时具有最大熵。

（）
（7）马尔可夫序列的联合概率具有时间推移不变性。

（）
（8）当信道固定时，平均互信息I（X，Y）是信源先验概率分布的上凸函数。

（）
（9）若码α=[101111]，β=[111100]，则α和β之间的汉明距离为3。

（）
（10）若X与Y独立，则H(Y/X)=H(X/Y)。

（）
三名词解释（本题4小题,每小题5分,共20分）
1 最大似然译码准则
2 率失真函数
3 自由距离
4 伴随式
四计算题（本题3小题，共25分）
1 一组CRC循环冗余校验码，其生成多项式为（X6+X3+1）。

假设发送段发送的信息帧中
所包含的信息是（100110）。

试求：
1）信息多项式m(x)=？
2）附加在信息位后的CRC校验码。

（2+3=5分）
2已知一个二元信源连接一个二元信道，如图所示。

其中，
试求：I(X,Y)，H(X,Y)，H(X/Y)，和H(Y/X)。

（12分）
x1 0.98 y1
0.02
0.2
x2 0.8 y2
五综合题（本题3小题，共30分）
1 设有离散无记忆信源X，其概率分布为P（X）={0.4，0.18，0.1，0.1，0.07，0.06，
0.05，0.04}，求：
1）信源符号熵H（X）；
2）用哈夫曼编码编成二元变长码，并计算其编码效率；
3）如要求译码错误小于10-6，采用定长编码达到90%的编码效率，需要多少个信源符号一起编码？
4）在相同的信源、编码效率和译码差错的条件下，试比较定长和变长编码。

（2+3+3+2=10分）
2 一个马尔可夫过程的基本符号为{0，1，2}，三个符号等概出现，并具有相同的转移概
率。

试：
1）画出一阶马尔可夫过程的状态图；
2）求稳态下的一阶马尔可夫信源熵；
3）求出信源的冗余度。

（3+3+4=10分）。