第二章概率论与随机过程22-16 图P2-16中的电路输入为随机过程X(t)，且E[X(t)]=O, xx ()= (),即X(t)为白噪过程。
(a )试求谱密度 yy ( f )。
2(b )试求 yy ( )和 E[Y (t)]。
----kW 1RX(t)图 P2-162(b) E [y (t)]= yy (0)解：由功率密度谱的定义知C 二 Y(t)xxxx( )e j2f d()e j2fd又系统函数H(f)=^ X(f)1j2 fc1 j2 fc1 __j2 fcyy(f)xx(f)H(f)2(2 fcR)2yy()yy(f)ej2df2 1R 2f^ej2fdf莎汀2•- E [y (t)]= yy (0)2Rc2-20一离散时间随机过程的自相关序列函数是(k) (1/2)W ，试求其功率密度谱。
(f)=k(k)ej2 fk2-24 系统的噪声等效带宽定义为B eq 认2H(f) df1/知 o XJ)•••命题得证。
2-23 试证明函数在区间［(f)1(2) k 2I kl e 2j fk/ 12 jf 、21e j2f 2 1 !e j2f21e j2f 211ej22sin[2 W(tf k (t)=］上为正交的，即G eo 21 1 le j2f2即为所求。
2W )]k2 W(t ) 2W,k = o ,所以，抽样定理的重建公式可以看作带限信号s(t)的级数展开式，其中权值为 s(t)的样值,且｛ fk (t)｝是级数展开式中的正交函数集。
证明： 由题得ksin[2 W(t -)] f k (t)f j (t)dt =---------- 2 W(t —) 2Wsin[2 W(tj)]込dt2 W(tj)1 cos[( j k)2 cos[4 wt (k j) ] dt (2 wt k)(2 wt j)⑵对于图P2-16有G maxH(f)2第三章信源编码3-4X 、Y 是两个离散随机变量，其概率为P(X=x, Y=y)=P(x, y)证明：l(X,Y)A 0,当且仅当 X 和Y 统计独立时等号成立。
n m证明：I (X,Y) P(X i ,Y j )l(X i ,Y j )i 1 j 1•• I (X,Y) >0,当且仅当X 和Y 统计独立时式中,G maxH(f)「。
利用该定义，试确定图P2-12中的理想带通滤波器和图 P2-16中的X(t)丫⑴解:(1)对于图 P2-12 有 G2maxH (f)图 P2-16B eqH(f)2dff c B21?dffc|(f c |)•••图P2-12的系统的等效带宽为 BBeq 0H(f) df =1 4 2R 2c 2f12 Rc d(2 Rcf)1 (2 Rcf)21 2_R c arctg(2 Rcf)1 4RcP(X i ,Y j )logP(X ,Y ) P(X i )P(Y j ) P(X i ,Y j )logP(X i )P(Y j ) P(X i ,Y j )P(X i ,Y j )i 1 j 1P(XJP(Y j ) P(X i ,Y j ) P(X i )P(Y j )i 1 j 1P(X i ,Y j )图 P2-12P(X 「Y j ) P(XJP(Y j )3-5 某DMS 信源输出由可能的字符 X i , X 2，…，X n 组成，其发生概率分别是 p i , P 2，…,p n 。
证明信源熵 H (X)至多是log n 。
3-11 设X 和Y 是两个联合分布的离散随机变量(a )证明：H(X) =— P(x,y) logP(x)x,yH(Y) = — P(x, y)log P(y)logP(X i ,Y j )P(X i )P(Y j )0 此时，l(X i ,Y j ) 0证明： 由熵定义可知nH(X) = P i log P i ；i 1又•••P ii 1H (X) — log n =P i log P i — P i log ni 1i 1ni 1P i log 1 n l— P i lognn1 = P i logi 1P i n, 1 1ln-1 . 1 P i n P i nlogP i nln 2l ni 21n 1 八H(X)— log nP i (1)ln 2 i 1P i nln 2 i 1 (1n P i )H(X)log n1ln2(1 1) 当且仅当1 P i =n时等号成立。
又n1H(X,Y) H (X) + H(Y)在什么情况下上式的等号成立(c ) 证明：H(X |Y) H(X)当且仅当X 和Y 独立时上式等号成立。
(a)由离散随机变量的边缘概率可知mP(X i ) =P(X i ,y j )j inH (X) =- p(X i )log p(X i )i 1n m=-p(X i ,y j )log p(X i )i 1 j 1H(X) P(X , y)logP(X)X,y同理可知： H(X)P(x,y)logP(y)x,yn m(b ) H(X,Y)P(X i ,Y j )logP(X i ,Y j )P(X , y) log P(X ) i 1 j 1x,yP(x,y)log P(y)x,yn m= P(X i ,Y j )log P(X i ,Y j ) H(X) H (Y)i 1 j 1当P(X i ,Y j )=1时，等号成立。
(c) ••• H(X) H(X |Y) I(X,Y)由 3-4 的结论可知：I(X,Y) 0• H (X) H(X,Y)若存在X ',Y 不独立，使得H(X '|Y ') H(X ')' ' ''1即 H(X|Y) P(x,y )log ; rP(X |y )证明: •-log P(X i ,Y j ) 0••• H (X,Y) H(X) H(Y)' '' 1 H(X)x,y P(X，y)lOg EP(x|y)制Pg•/ X ,Y不独立，所以与以上推论相互矛盾;•••当且仅当X,Y相互独立时上式等号成立。
3-23 —个无记忆信符源的字集为{-5,-3,-1,0,1,3,5},相应的概率分别是(a)计算信源熵。
(b)假设信源输出按如下量化规则量化q( 5) q( 3) 4, q( 1) q(0) q(1) 0, q(5) q(3) 4,计算量化后的信息熵。
解：(a)由熵的定义可得7H(X) = P(x i)log P(x i) —0.15log 0.15 —0.05 log 0.05 —0.25 log 0.25 —i 10.3log 0.3取2作底可得H(X) = 2.53(b) 量化后的字符集为{0,4}且P(x 0) = 0.1 + 0.15 + 0.05 = 0.3P(x 4) = 1—P(x 0) = 0.72此时的熵为H(X) = P(x」log P(x ) = —0.3log 0.3 —0.7log 0.7i 1取2作底可得H (X)=3-25 对下列二进制序列做L-Z信源编码：000000000再从编成的L-Z信源码中恢复原序列。
解：将该二进制序列做如下分解，可得到下列码段：0, 00, 1, 001, 000, 0001, 10, 00010, 0000, 0010, 00000, 101, 00001 , 000000,11, 01, 0000000, 110可得L-Z算法字典如下：解: (a) H(X |G) P(x,g)log P(x | g)dxdg已知信源X 的概率刻度函数为 P(X) P(x;g)1(2 222)P(x)P(g)e x N，p(x|g)2 x nP(x)•••条件熵为 H(X|G)(b)平均互信息为I(x;g) H(x) H(x|g)P(x,g)log P(x | g)dxdgP(x)log P(x)dx (— log - 2 x )23-38考虑一个平稳随机信号序列{X(n)}，其均值为0，自相关序列1 00001 0 0000002 00010 00 0000103 00011 1 0000014 00100 001 0001015 00101 000 0001006 00110 0001 0010117 00111 10 0001108 01000 00010 0011009 01001 0000 001010 10 01010 0010 001000 11 01011 00000 010010 12 01100 101 001111 13 01101 00001 010011 14 01110 000000 010110 15 01111 11 000111 16 10000 01 000011 17 10001 0000000 011100 1810010110011110斯输入，计算:(a)条件差熵H(X |G)。
(b)平均互信息l(X;Y)。
3-30某加性高斯白噪声信道的输出是1密度函数为p(n) --------V 2 nX G ,此处X 是信道输入，G 是噪声，概率n 2 22n ，如 X 是 E(X) 0及 E(X )2的白高G 为加性噪声,(n=0)(n) [ (n= 1)0 (其它)(a) {X(n)}的一阶最小MSE预测器为~(n) = a“x(n 1)，计算预测系数以及相应的最小均方误差1(b)对于二阶预测器~(n) = a1x(n 1) + a2x(n 2)重复(a)的问题。
p解：(a)由a i (i j) = (j)i 1a1 (1 1) = (1)a1 (0) = (1)=(0) (1) 0.25 ⑼=0.75(b )二阶最小MSE预测器此时，p 2, j 1 , 2• 一a1 (1 1) a2 (2 1) (1)a1 (1 2) a2 (2 2) (2)a1 0.5a20.50.5印a202{1可得此时最小均方误差为~(n) = 0.5x (n 1)21 = E[x( n) ax(n 1)]=E[x( n) 0.5x( n 1)]2=E[x2( n) x( n)x(n 1) 0.25x2(n 1)]=E[x2(n)] - E[x(n)x(n 1)] + 0.25E[x2(n 1)]S m (t)，1 m为正交向量 此时的最小均方误差为 2 =E[ x(n) -x( n 1)33x( n 2)]=E[x( n)]字[x(n1 1)] 3E[X (n 32)]22 2=(0) 2 a i (i)a j a j (i j)i 1i 1 j 1第四章通信信号与系统的表征现定义一组新的M 个波形试证明这M 个信号波形｛s m (t)｝有相同的能量，即(M 1) . M并且是等相关的，相关系数为1 M 2k—=(M 1) . M 即M 个信号波形｛S m (t)｝有相同的能量。