第三章 信道容量-习题答案3.1 设二元对称信道的传递矩阵为⎥⎦⎤⎢⎣⎡3/23/13/13/2 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)； (2) 求该信道的信道容量及其达到信道容量时的输入概率分布；解： 1)symbolbit Y X H X H Y X I symbol bit X Y H Y H X H Y X H X Y H Y H Y X H X H Y X I symbol bit y p Y H x y p x p x y p x p y x p y x p y p x y p x p x y p x p y x p y x p y p symbolbit x y p x y p x p X Y H symbolbit x p X H jj iji j i j i i i / 062.0749.0811.0)/()();(/ 749.0918.0980.0811.0)/()()()/()/()()/()();(/ 980.0)4167.0log 4167.05833.0log 5833.0()()(4167.032413143)/()()/()()()()(5833.031413243)/()()/()()()()(/ 918.0 10log )32lg 324131lg 314131lg 314332lg 3243( )/(log )/()()/(/ 811.0)41log 4143log 43()()(222221212221221211112111222=-==-==+-=+-=-=-==⨯+⨯-=-==⨯+⨯=+=+==⨯+⨯=+=+==⨯⨯+⨯+⨯+⨯-=-==⨯+⨯-=-=∑∑∑∑2)21)(/ 082.010log )32lg 3231lg 31(2log log );(max 222==⨯++=-==i mi x p symbolbit H m Y X I C3.2 解：(1)αα-==1)(,)(21x p x p⎥⎦⎤⎢⎣⎡=4/14/12/102/12/1P ，⎥⎦⎤⎢⎣⎡---=4/)1(4/)1(2/)1(02/12/1)(αααααj i y x P 4/)1()(,4/14/)(,2/1)(321αα-=+==y p y p y p接收端的不确定度：))1(41log()1(41)4141log()4141()2log(21)(αααα---++-=Y H)1log(41)1log(4123αααα---++-= (2))4log()1(41)4log()1(41)2log()1(210)2log(21)2log(21)|(ααααα-+-+-+++=X Y H α2123-= (3))|()();(X Y H Y H Y X I -=);(max )()(Y X C i x p =α,0)(=ααC d d,得到5/3=α 161.0)5/3();max(===C Y X C 3.3∑==⨯++=+=21919.001.0log 01.099.0log 99.02log log )log(j ij ij p p m C0.919*1000=919bit/s 3.4⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=εεεε-10-10001ij p2/1)()(0)(321===a p a p a p 0)(1=b p2/12/1)1(2/100)|()(),()(222=⨯+-⨯+⨯===∑∑εεi ii ii a b p a p b a p b p2/1-12/12/100)|()(),()(333=⨯+⨯+⨯===∑∑）（εεi ii ii a b p a p b a p b p)()|(log)|();(j i j ji j i b p a b p a b p Y a I ∑=0);(1=Y a Iεεεε2log )1(2log )1(0)()|(log)|();(222+--+==∑j j jj b p a b p a b p Y a I )1(2log )1(2log 0)()|(log)|();(333εεεε--++==∑j j jj b p a b p a b p Y a I当0=ε，1=C 当2/1=ε，0=C 3.5两个信道均为准对称DMC 信道设输入符号概率αα-==1)(,)(21a p a p ， （1） 对于第一种信道的联合概率的矩阵为：⎥⎦⎤⎢⎣⎡---------)1(2)1)(1()1)((2)()1(αεαεαεεααεαεp p p p⎥⎦⎤⎢⎣⎡---)()1(εαεp p 3.6⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=2/1002/12/12/10002/12/10002/12/1P 121log 2121log 214log log )log(41=++=+=∑=ij j ij p p m C3.7解：(1)从已知条件可知：3,2,1,3/1)(==i x p i ，且转移概率⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡=0109101103103525110321)|(i j x y p ，则联合概率⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡==010330110110115215110161)()|(i i j ij x p x y p p ，因为：),()(∑=ij i j y x p y p ，可计算得到31)(1=y p ，21)(2=y p ，61)(3=y p499.16log 612log 213log 31)(=++=Y H(2)175.1910log 10310log 301310log 101310log10125log 1525log 151310log 1012log 61)|(log )()|(=+++++++=-=∑iji j j i x y p y x p X Y H (3)当接收为2y ，发送为2x 时正确，如果发送为1x 和3x 为错误，各自的概率为： 5/1)|(21=y x p ，5/1)|(22=y x p ，5/3)|(23=y x p 它的错误概率为：5/4)|()|(2321=+=y x p y x p p e(4)从接收端看到的平均错误概率为：===∑∑≠≠ji ij ji j i j e p y x p y p p )|()(收733.010/115/110/310/130/115/2=+++++(5)从发送端看到的平均错误概率为：===∑∑≠≠ji ij ji i j i e p x y p x p p )|()(发733.010/115/110/310/130/115/2=+++++(6)此信道不好，因为信源等概率分布，从转移信道来看，正确发送的概率11y x >-为0.5，有一半失真；22y x >-为0.3，严重失真；33y x >-为0，完全失真。

(7)585.13log )(==X H301.1)35log(103)10log(301)35log(101)5log(101)25log(151)5log(101)2log(61)|(log )()|(=+++++++=-=∑ijj i j i y x p y x p Y X H3.8s Mb WN p W C av /5.19)5.65.451log(5.6)1log(0=+=+=3.9每秒传递的信息速率：10log 3010304⨯⨯⨯=R信道的信噪功率比：dB P P N s 30log 10=，310=N s P P ，R P PW C N s t =+=)1log(所以：MHz W 3=3.10(1) s Mb P P W C N s t /46.3)101log(1)1log(111=+⨯=+= (2) )1log()1log(222111N s N s P P W P P W +=+，已知MHz W 11=，1011=N s P P ，522=N s P P， 所以MHz W 34.12=(3) )1log()1log(333111N s N s P P W P P W +=+，已知MHz W 11=，MHz W 5.02=，1011=N s P P， 所以可求得12022=N s P P ，课外习题： 设二进制对称信道是无记忆信道，信道矩阵为⎥⎥⎦⎤⎢⎢⎣⎡__p pp p ，其中：p > 0，_p < 1，p + _p = 1，_p >> p 。

试写出N = 3次扩展无记忆信道的信道矩阵[P]。

解：[]⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡=3222232222322223222322322322322222232232232232223222232222322223111110101100011010001000 111110 101 100 011 010 001 000 p pp pp pp p p pp p p p p p p p pp p p p p p p p ppp pp pp p p p p p ppp p p pp p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p p pp p p p p p p p pp p p p p p p p ppp p p p p p p p P课外习题：在图片传输中，每帧约有2.25 106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。

试计算每分钟传送一帧图片所需信道的带宽（信噪功率比为30dB ）。

解：sbit t I C bit NH I symbol bit n H t / 101.5601091010941025.2/ 416log log 566622⨯=⨯===⨯=⨯⨯=====z15049)10001(log 105.11log 1log 25H P P C W P P W C N X tN X t =+⨯=⎪⎪⎭⎫ ⎝⎛+=⎪⎪⎭⎫⎝⎛+=课外习题：设电话信号的信息率 5.6 104比特/秒，在一个噪声功率谱为N 0= 5 10-6 mW/Hz 、限频F 、限输入功率P 的高斯信道中传送，若F=4kHz ，问无差错传输所需的最小功率P 是多少瓦？若F →∞，则P 是多少瓦？解：We N C P eN PC F WWN P WN P W C t X X t W C X X t t 1094.171828.2log 105106.5log log 328.0121054000121log 429420204000106.59004--⨯-⨯=⨯⨯⨯===∞→=⎪⎪⎭⎫ ⎝⎛-⨯⨯⨯=⎪⎪⎭⎫ ⎝⎛-=⎪⎪⎭⎫ ⎝⎛+=3.12 有一个二元对称信道，其信道矩阵为⎥⎦⎤⎢⎣⎡98.002.002.098.0。