一、设X 、Y 就是两个相互统计独立的二元随机变量,其取-1或1的概率相等。
定义另一个二元随机变量Z,取Z=YX(一般乘积)。
试计算:
1、H(Y)、H(Z);
2、H(YZ);
3、I(X;Y)、I(Y;Z); 二、如图所示为一个三状态马尔科夫信源的转移概率矩阵
1. 绘制状态转移图; 2、 求该马尔科夫信源的稳态分布;
3、 求极限熵;
三、在干扰离散对称信道上传输符号1与0,已知P(0)=1/4,P(1)=3/4,试求:
1. 信道转移概率矩阵P 2、信道疑义度 3、信道容量以及其输入概率分布 四、某信道的转移矩阵⎥
⎦
⎤
⎢
⎣⎡=1.006.03.001.03.06.0P ,求信道容量,最佳输入概率分布。
五、求下列各离散信道的容量(其条件概率P(Y/X)如下:)
六、求以下各信道矩阵代表的信道的容量
答案
一、设X 、Y 就是两个相互统计独立的二元随机变量,其取-1或1的概率相等。
定义另一个二元随机变量Z,取Z=YX(一般乘积)。
试计算:
1、H(Y)、H(Z);
2、H(XY)、H(YZ);
3、I(X;Y)、I(Y;Z); 解:1、 2
i 1
1
111H Y P y logP y log log 2222i i =⎡⎤=-+⎢⎥⎣⎦∑（）=-
（）（）=1bit/符号 Z=YX 而且X 与Y 相互独立
∴ 1(1)(1)(1)P
P X P Y P X ⋅=+=-⋅=-（Z =1）=P(Y=1)= 11111
22222⨯+⨯= 2(1)(1)(1)P P X P Y P X ⋅=-+=-⋅=（Z =-1）=P(Y=1)= 11111
22222
⨯+⨯=
故H(Z)= i
2
i
1
(z )log (z )i P P =-∑=1bit/符号
2、从上式可以瞧出:Y 与X 的联合概率分布为:
H(YZ)=H(X)+H(Y)=1+1=2bit/符号 3、
X 与Y 相互独立,故H(X|Y)=H(X)=1bit/符号
∴I(X;Y)=H(X)-H(X|Y)=1-1=0bit/符号
I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-[H(YZ)-H(Z)]=0 bit/符号
二、如图所示为一个三状态马尔科夫信源的转移概率矩阵
2. 绘制状态转移图; 2、 求该马尔科夫信源的稳态分布; 3、 求极限熵;
解:1、状态转移图如右图 2、由公式3
1
()()(|)j i
j
i i p E P E P E
E ==
∑,可得其三个状态的稳态概率为:
1123223313123111()()()()22411()()()2211
()()()24()()()1P E P E P E P E P E P E P E P E P E P E P E P E P E ⎧
=++⎪⎪⎪=+⎪⎨
⎪=+⎪⎪⎪++=⎩
1233()7
2()72()7P E P E P E ⎧=⎪⎪⎪
⇒=⎨⎪⎪
=⎪⎩
3、其极限熵:
3
i i 1
3112112111
H = -|E =0+0+72272274243228
=1+1+ 1.5=bit/7777
i P H H H H ∞=⨯⨯⨯⨯⨯⨯∑（E ）（X ）（，，）（，，）（，，）
符号
三、在干扰离散对称信道上传输符号1与0,已知P(0)=1/4,P(1)=3/4,试求:
2. 信道转移概率矩阵P 2、信道疑义度 3、信道容量以及其输入概率分布
解:1、该转移概率矩阵为 P=0.90.10.10.9⎡⎤
⎢
⎥
⎣⎦
2、根据P(XY)=P(Y|X)⋅P(X),可得联合概率
由P(X|Y)=P(X|Y)/P(Y)可得
H(X|Y)=-
i j
i
j
i j
(x y )log x |y =0.09+0.12+0.15+0.035=0.4bit/P P
∑，（）符号 3、该信道就是对称信道,其容量为:
C=logs-H=log2-H(0、9,0、1)=1-0、469=0、531bit/符号
这时,输入符号服从等概率分布,即0111()22X P X ⎡⎤
⎡⎤⎢
⎥=⎢⎥⎢⎥⎣⎦⎣⎦
四、某信道的转移矩阵⎥⎦
⎤
⎢
⎣⎡=1.006.03.001.03.06.0P ,求信道容量,最佳输入概率分布。
解:该信道就是准对称信道,分解为两个互不相交的子信道矩阵 0.60.30.30.6⎡⎤
⎢
⎥
⎣⎦ 0.1000.1⎡⎤⎢⎥⎣⎦
这里110.90.9N M == 22 0.10.1N M == ∴C=logr-H(P 的行矢量)
-
2
k 1
log 1(0.6.3.1)0.9log 0.9-0.1log 0.1K
K N
M H ==--⨯⨯∑，0，0
=0、174bit/符号
这时,输入端符号服从等概率分布,即()X P X ⎡⎤⎢⎥⎣⎦=011122⎡⎤
⎢
⎥⎢
⎥⎣⎦
五、求下列各离散信道的容量(其条件概率P(Y/X)如下:)
六、求以下各信道矩阵代表的信道的容量。