离散平稳随机序列信源，极限熵存在。 （） 三 名词解释（本题 4 小题,每小题 5 分,共 20 分） 1 全损信道 X 与 Y 相互独立，此时 I(X。Y)=0，从 Y 中无法提取关于 X 的信息，信道能传输的平均信 息量为 0，即信源发出的信息量在信道上全部损失掉了，称为全损信道。 2 随机错误 错误的出现是随机的，一般而言错误出现的位置是随机分布的，即各个码元是否发生错误是 互相独立的，通常不是成片地出现错误。这种情况一般是由信道的加性随机噪声引起的。 3 变换编码 变换编码是一种限失真信源编码方法，经变换后的信号的样值能更有效地编码，即通过变换 解除或减弱信源符号间的相关性，再将变换后的样值进行标量量化，达到压缩码率的目的。 2/6 4 非奇异码 信源符号和编出的码字是一一对应的，则该码为非奇异码。
一 填空题（本题 15 空，每空 1 分，共 15 分）
1 互信息量 I(xi。yj)被定义为（ 自信息量 I（xi） ）和（ 条件自信息量 I（xi/yj） ）两个不 确定度之差，是不确定度被消除的部分，即从 yj 得到的关于（ xi ）的信息量。 2 最大后验概率译码指的是（即选取最大的后验概率
解：1）（2 分）
2 一组 CRC 循环冗余校验码，其生成多项式为（X5+X4+X2+1）。假设发送段发送的信息 帧中所包含的信息是（1010001101）。试求附加在信息位后的 CRC 校验码。 （6 分） 答：生成 CRC 基本原理是： 1）信息多项式乘以 X5，得到 X5×（X9+x7+x3+x2+1）=X14+x12+x8+x7+x5； 2）除以生成多项式（X5+X4+X2+1），得到余数为 X3+x2+x → 01110 3）信息帧的 CRC 校验码即为 01110，发送的帧为 T=101000110101110。
3/6
3
研究(8,4)系统线性分组码，其校验方程为： c0 m1 m 2 m3 c m m m 1 0 1 2 c 2 m0 m1 m3 c3 m0 m 2 m4 ，其中 m0~m3 是信息位，C3~C0 是校验位。 1) 求出此分组码的生成矩阵 G 和校验矩阵 H。（码字排列为 m1~m4C0~C3） 2) 求此码的最小距离 dmin。 3) 若输入信息 m=(1010)，试求对应的输出码字。 4) 若接收序列 R=（10111010），如何判断接收是否有错？（2+2+2+2=8 分）
log 2 36 1.71 11 ）bit，“两个 3 同时出现”这一事件的自信息量为（ 5.17 ）bit。
为（
5 常用的差错控制方法有（ 前向纠错 ）、（ 检错重发 ）和混合纠错。 6 码距与检、纠错能力之间的关系是（ 检错能力+纠错能力≤dmin+1 ）。 所以编码效率
为
1/6
二 判断题（本题 10 小题,每小题 1 分,共 10 分） 1．√ 2．× 3．× 4．√ 5．√ 6．√ 7．× 8．√ 9．× 10．√
解：1）由一致校验方程，易得出生 16 组 码 字 为 00000000 、 00011011 、 00101101 、 00110110 、 01001110 、 01010101 、 01100011 、 01111000 、 10000111 、 10011100 、 10101010 、 10110001 、 11001001 、 11010010、11100100、111111111 ∴ d min 4 （2 分） 3）输入信息 m=(1010)，对应的输出码字为 10101010。 （2 分） 4）1011 的正确码字应该是 10110011，所以有错，判断是否有错，只需计算 RHT 是否为 零，如为零则无错，不为零则有错。 （2 分） 五 综合题（本题 3 小题,共 30 分）
max p( y j / x i )
课程名称： 就可使译码差错最 信息论与编码 B
小）。在（输入等概）时，最大后验概率译码即为最大似然译码。BSC 信道的最大似然
制 作 人： 陈瑞 焦良葆 年 月 日
译码即为（求最小汉明距离的一种译码算法）。 3 信息传输率的定义为（信道中每个信源符号传输的信息量），经信源编码后，信源符号 变成了码元符号进入信道传输，此时信息传输率指的是（平均每个码元载荷的信息 量）；信息传输速率被定义为（单位时间内传输的信息量），单位为 bit/s。 4 若同时抛掷一对色子，设每个色子各面朝上出现的概率均为 1/6，则“2 和 6 同时出现”这 一事件的自信息量为（log218=4.17）bit，“两个点数中至少有一个 1”这一事件的自信息量
（1） 完备码是一种监督位得到充分利用的码。 （） （2） (n,k)线性分组码的最小汉明距离 dmin≤n-k。 （） （3） 由香农公式 C W log(1 SNR) 可以看出，随着带宽无限增加，信道容量也可无限增 大。 （） （4） 任意线性分组码中必包含全 0 码字。 （） （5） 码字集合{1，01，000，0010，0011}是唯一可译码。 （） （6） 信息率失真函数 R(D)的值域为[0，H(X)]。 （） （7） K-L 变换是按均方误差最小准则来计算的一种非正交变换。 （） （8） 信源的不确定度具有可加性。 （ ） （9） 任一非系统码的生成矩阵都可以通过行运算转变成系统形式，结果是映射规则不 变，码集发生线性变化。 （ ） （10） 非平稳有记忆随机序列实际信源，其极限熵是不存在的；解决方法是假设其为
四 计算题（本题 3 小题,共 25 分） 1. 已知一个信源包含 8 个符号消息，它们的概率分布如下表： A B C D E F G H 0.1 0.18 0.4 0.05 0.06 0.1 0.07 0.04 1）设信源每秒钟内发出一个符号，求该信源的熵及信息传输速率； 2）对这 8 个符号作二进制码元的哈夫曼编码，并计算编码效率。 （4+4=8 分）