专升本《信息论与编码》一、(共48题,共150分)1. H(X)____________0,小概率事件对熵的贡献____________,确定事件的信息量____________0。
(6分).标准答案:1. >= ;2. 小;3. =;2. 确定信道的H(Y/X) ____0,H(X/Y) ____0。
(4分).标准答案:1. =;2. ;3. 霍夫曼编码可以编出不同的码,这些码的平均码长________,.编码效率________,码长方差________。
(6分).标准答案:1. 一样;2. 一样;3. 不一定一样;4. N个独立并联的信道,每个信道的信道容量为C,为了达到总的信道容量NC,所有信道的输入要________________,.所有信道的输入概率分布是各自信道的________________。
(4分).标准答案:1. 相互独立;2. 最佳分布;5. 通信系统中的编码器包括____________________,____________________,____________________。
(6分).标准答案:1. 信源编码器;2. 纠错编码器;3. 调制器;6. 率失真函数R(D)的最大值为________________,最小值为________________。
(4分).标准答案:1. H(X);2. 0;7. 某事件的概率为p(x),则自信息量为()。
(2分)A.-p(x)B.1/ p(x)C.-log p(x)D.log p(x).标准答案:C8. 有事件x,y,I(x)=2 bit,I(x/y)=1 bit,则互信息量I(x;y)的值为()。
(2分)A.1 bitB.2 bitC.3 bitD.4 bit.标准答案:A9. 下列关于条件熵的结论,不成立的是()(2分)A.H(X/Y)C.H(X/Y).标准答案:B10. 使I(X;Y)=0成立的条件是(): (2分)A.X和Y相互独立B.H (X) =H(Y)C.X和Y的概率分布相同.标准答案:A 11. 以下关于离散无记忆信源(熵为H(X))的结论,不正确的是(): (2分)A.是平稳信源B.其N次无记忆扩展信源的熵是NH(X)C.其极限熵大于H(X).标准答案:C12. 以下关于信道容量C和信息传输率R间的关系,正确的是(): (2分)A.C RB.C=RC.C R.标准答案:A13. 某信源有8个符号,其信源熵为2.4 bit,进行二元定长编码(不扩展),则其编码效率至少可达()(2分)A.80%B.85%C.90%D.95%.标准答案:A14. 在准对称信道中,要达到信道容量,要求(): (2分)A.信源和信宿的概率分布一致B.信源为等概分布C.信宿为等概分布.标准答案:B15. 在信道编码中,简单重复编码可以(): (2分)A.减小但降低了信息传输率B.提高了信息传输率,但增大了PEC.减小并提高了信息传输率.标准答案:A16. 二元码C={(000),(011),(101),(110),该码的最小码距是():。
(2分)A.1B.2C.3D.4.标准答案:B17. 率失真函数R(D)的取值与()无关(2分)A.信源的概率分布B.保真度DC.失真函数D.信道转移矩阵.标准答案:D18. 熵函数是信源概率分布的________函数,函数值________0。
(4分).标准答案:1. 上凸;2. ;19. I(x i,y j) ____ I(y j,x i),I(x i,y j) ____ I(x i),I(x i,y j) ____ I(y j)。
(6分).标准答案:1. =;2. ;3. ;20. 信源编码的目的是提高系统的____________,纠错编码的目的是提高系统的____________。
(4分).标准答案:1. 有效性;2. 可靠性;21. 无噪信道的H(X/Y)____0,收到Y可完全确定____,其最佳输入分布为____。
(6分).标准答案:1. =;2. X;3. 等概分布;22. 有m个输入符号的离散无损信道的信道容量为________________bit,其最佳输入分布为________________。
(4分).标准答案:1. logm;2. 等概分布;23. 一个(n,k)线性分组码的最小汉明距离为5,则其校验矩阵中任意____个列向量线性无关,可检测____个错误,可纠正____个错误。
(6分).标准答案:1. 4;2. 4;3. 2;24. 两个事件A和B,P(A)>P(B),则两者包含的自信息量I(A)和I(B)的关系是()。
(2分)A.I(A)>I(B)B.I(A)=I(B)C.I(A).标准答案:C25. 信源X包含n个不同的离散消息,其信源熵的最大值为()。
(2分)A.nB.1C.log nD.n+1.标准答案:C26. 离散无记忆信源X的熵为2,则其三次扩展信源的熵为(): (2分)A.2B.4C.6D.8.标准答案:C27. 对马尔科夫信源来说,下列结论不正确的是(): (2分)A.是有记忆信源B.其记忆长度是无限的C.是平稳信源.标准答案:B28. 对有n个输入符号、m个输出符号的确定信道来说,其信道容量为(): (2分)A.log nB.log mC.H(X)D.H(Y).标准答案:B29. 对一个两级串联信道,要使串联传输不增加信息损失,信道需满足(): (2分)A.两个信道都是对称信道B.两个信道的信道矩阵相同C.两个信道的信道容量相等D.总的信道矩阵等于第一级信道矩阵.标准答案:D30. 为了正确译码,信源编码必须是(): (2分)A.奇异码B.非奇异码C.唯一可译码.标准答案:C31. 信源X的熵为2,信源Y的熵为3,X、Y相互独立,则其联合熵H(XY)=()(2分)A.2B.3C.6D.5.标准答案:D32. 费诺编码在()的情况下,编码效率最高(2分)A.信源为等概分布B.概率分布极不平均C.编码时每次分组的概率相等.标准答案:C33. 香农信息论中,概率小的事件,信息量____,确定事件____信息量。
(4分).标准答案:1. 大;2. 不含;34. H(X/Y) ________H(X) 0;H(XY) ________H(X);H(XY) ________H(X/Y)。
(6分).标准答案:1.35. 对串联信道,如果串联信道的总的信道矩阵等于第一级信道矩阵,则________增加信息的损失;信息在传输中损失后,后续系统________恢复。
(4分).标准答案:1. 不会;2. 不能;36. 率失真函数R(D)是D的________、________下凸函数,当D>=Dmax时,R(D)= ________。
(6分).标准答案:1. 递减;2. 下凸;3. 0;37. 无记忆信源____平稳信源,马尔科夫信源____平稳信源,.平稳信源的极限熵____H(X)。
(6分).标准答案:1. 是;2. 是;3.38. 香农编码、费诺编码和霍夫曼编码的共同点是编出的码都是____________,大概率符号对应的码字码长____________。
(4分).标准答案:1. 即时码;2. 短;39. 一下关于条件自信息量的结论,不正确的是()。
(2分)A.条件自信息量不大于联合自信息量B.条件自信息量不能为负数C.条件自信息量不大于自信息量.标准答案:C40. 互信息量为负值的条件是():(2分)A.见图B.见图C.见图D.见图.标准答案:D41. 信源X有三个消息符号,当概率分布为(),H(X)的值最大: (2分)A.{1,0,0B.{1/3,1/3,/1/3C.{0,1/2,1/2.标准答案:B42. 对信源X和Y来说,下列值中最小的是(): (2分)A.I(X;Y)B.H(X)C.H(Y)D.H(X,Y).标准答案:A43. 信道容量C是()对信源分布的最大值: (2分)A.I(X;Y)B.H(X)C.H(Y)D.H(X,Y).标准答案:A44. 实现离散准对称无记忆信道信道容量的信源应满足(): (2分)A.信源为等概分布B.信源符号和信宿符号个数相等C.信源和信宿概率分布相同D.信宿为等概分布.标准答案:A45. 一个小型字库有220个汉字,要进行二元定长编码,为了保证唯一可译性,则码长至少是()。
(2分)A.5B.6C.7D.8.标准答案:D46. 选择译码规则总的原则是(): (2分)A.使平均错误概率PE最小B.使噪声熵最小C.使信道损失最小.标准答案:A47. 对连续信源和连续信道来说,下列结论不正确的是()(2分)A.条件熵可正可负B.无条件熵可正可负C.联合熵可正可负D.平均互信息可正可负.标准答案:D 48. 在线性分组码中,生成矩阵G和校验矩阵H的关系是:(2分)A.见图B.见图C.见图D.见图.标准答案:A。