《信息论与编码技术》复习题（2）
一、（32分）综合概念题
1. 什么是系统码和典型矩阵？写出常用的典型生成矩阵的两种形式。

2. 根据平均互信息定义的信道容量是指：
a. 信道固定时的最大平均互信息；
b. 信道固定时的最小平均互信息；
c. 信源固定时的信道的最小平均互信息；
d. 信源固定时的信道的最大平均互信息。

3. 什么是离散平稳信源？
a. 任意两个不同时刻随机矢量的各维概率分布都相同；
b. 任意两个不同时刻随机矢量的各维概率分布都不相同；
c. 任意两个不同时刻随机矢量的各维概率密度函数都相同；
d. 任意两个不同时刻随机矢量的各维概率密度函数都不相同。

4. 设计一个信道容量为22 kbit/s 的电话信道，若信道上的信号与噪声的平均功率比值为20 dB ，请问该信道的通频带应该为多少？
5. 设信源有q 个符号，则当信源 分布时熵最大，其最大值为 。

6. 当信道固定时，平均互信息是输入分布的 函数；当信源固定时，平均互信息是信道转移概率的 函数。

7. 信源编码是通过压缩信源冗余度来提高 ，而信道编码是增加冗余度来提高 。

8. 请判断具有下列码长{1, 2, 3, 3, 3, 4}的二进制码是否可构成唯一可译码。

二、（10分）设有对称信源(s = r = 4)，信源X = {a 1, a 2, ..., a r } = {0, 1, 2, 3}，信宿Y = { b 1, b 2, ..., b s } = {0, 1, 2, 3}。

若失真度定义为：d (a i , b j ) = (b j -a i )2，求其失真矩阵D 。

三、（15分）某离散无记忆信源⎥⎦
⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡4.06.0)(21a a x p X ，通过图1的信道传输，求：
图1 离散信道
（1）该信源中a 1和 a 2分别含有的自信息；
（2）X 和Y 的信息熵；
（3）信道的疑义度H (X|Y )；
（4）接收到信息Y 后获得的平均互信息量。

四、（16分）设有一个离散无记忆信源⎥⎦
⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡5.03.02.0)(321a a a x p X ， （1）对该信源进行二元费诺编码，计算其平均码长和编码效率；
（2）对信源进行二元霍夫曼编码，计算其平均码长和编码效率。

五、（15分）已知(7, 4)循环码的生成多项式1)(3++=x x x g ，求：
（1）该码的编码效率；
（2）该码的生成矩阵和校验矩阵；
（3）若消息码多项式为1)(2++=x x x m ，求其码字。

六、（12分，电子信息专业）二元对称信道的信道矩阵为⎥⎦
⎤⎢⎣⎡9.01.01.09.0，信道传输速度为1500二元符号/秒，设信源为等概率分布，信源消息序列共有13000个二元符号，问：
（1）能否在10秒内将信源消息序列无失真传送完毕？
（2）若信源概率分布为p (0)=0.7，p (1)=0.3，则无失真传送以上信源消息序列至少需要多长时间？
七（12分，通信工程专业）已知卷积码的编码器如图2所示，试用生成矩阵法分析当输入信息序列为11001时的输出码字。

图2 卷积码编码器。