离散无记忆信道和信道容量
0
[P]=
0
1－p
1
0
2.2.二进删除
信道—M信道
X={0,1}; Y={0,2,1}
0
1-p p
p
0
2
1 1-p
1
2
1
p 0
p
1-p
C=1-p 最佳入口分布为等概分布
1
离散无记忆信道和信道容量
对称离散信道的信道容量
I(X;Y)=H(Y)-H(Y/X) 而
H (Y
/
X ) P(x) P( y / x) log
p(y) C t
15
信道容量的计算
③常见信道的信道容量C：
——无噪信道
I(X;Y) H(X )
C log || ||
16
11
移动通讯技术的分类 移动通信系统有多种分类方法。例如按信号性质分，可分为模拟、数
字；按调制方式分，可分为调频、调相、调幅；按多址连接方式分， 可分为 频分多址(FDMA)、时分多址(TDMA)、码分多址(CDMA)。 目前中国联通、中国移动所使用的GSM移动电话网采用的便是FDMA 和TDMA两种方式的结合。GSM比模拟移动电话有很大的优势，但是， 在频谱效率上仅是模拟系统的3倍，容量有限；在话音质量上也很难 达到有线电话水平；TDMA终端接入速率最高也只能达到9.6kbit/s； TDMA系统无软切换功能，因而容易掉话，影响服务质量。因此， TDMA并不是现代蜂窝移动通信的最佳无线接入，而CDMA多址技术 完全适合现代移动通信网所要求的大容量、高质量、综合业务、软切 换等，正受到越来越多的运营商和用户的青睐。
C log s H ( p1' , p2' ... ps' ) 3
离散无记忆信道和信道容量
Eg. 求信道容量
1 1 1 1
P


3
3
6
6

1 1 1 1
6 6 3 3
C

log2
4

H
(1 3
,
1 3
,
1 6
,
1) 6

0.082bit
/
符号
4
离散无记忆信道和信道容量
12
CDMA的机理相关。CDMA是一个自扰系统，所 有移动用户都占用相同带宽和频率，打个比方， 将带宽想像成一个大房子，所有的人将进入惟一 的大房子。如果他们使用完全不同的语言，他们 就可以清楚地听到同伴的声音而只受到一些来自 别人谈话的干扰。在这里，屋里的空气可以被想 像成宽带的载波，而不同的语言即被当作编码， 我们可以不断地增加用户直到整个背景噪音限制 住了我们。如果能控制住用户的信号强度，在保 持高质量通话的同时，我们就可以容纳更多的用 户。
数据可靠传输和信道编码
13
信道容量的计算—知识回顾
①互信息 I(X；Y）是输入信源的概率分布 p(x)的上凸函数； ——每个固定信道都有一个最大的信息传输 率，即信道容量C.
C max I( X;Y ) P( xi ) 14
信道容量的计算
②最佳入口分布不一定是唯一的，但是最佳 输出分布是唯一的； ——单位时间内信道的最大信息传输率，即
我们首先从一个例子开始 例：二元无记忆对称信道得二次扩展信道。
二元记忆对称信道为
P


p p
p p
5
离散无记忆信道和信道容量
则它的二次扩展信道为：
p2 pp pp p2



pp
p2
p2
pp

pp p2 p2 pp

p
2
pp
pp
p
2

可以将信道的扩展和信源的扩展联系起来看，当信 源扩展以后，信道也就称为了扩展信道。
4.3 信道编码理论 4.4 带反馈的信道模型 4.5 联合信源-信道编码定理 4.6 线性分组码 习题四
8
9
接入信道容量的分析与寻呼信道不一样，寻呼信道用于前 向链路，容量的分析主要在于对寻呼信道占用率的计算， 而接入信道用于反向链路，对 CDMA 系统来说，反向链 路容量主要用于干扰的分析。即使采用时隙化的随机接入 协议，接入信道也可能有较高的通过量，大量的接入业务 会在反向链路中产生无法接受的干扰。如前所述，第一个 接入试探失败后，下一个接入试探将增加一定量的功率， 最终的结果将导致小区接收功率的增加以及反向链路容量 的减少。
6
离散无记忆信道和信道容量
因此，如果信源、信道都是无记忆的
I(X N ;Y N ) N I(X ;Y)
CN NC
这就是离散无记忆信道序列的信道容量，该信道容 量在信源是无记忆信源且每一个输入变量Xi 达到最大入 口分布时达到。
7
数据可靠传输和信道编码
4.1 离散无记忆信道和信道容量 4.2 信道容量的计算
X
Y
1 P(y /
x)
P(x)H (Y X
/
X

x)
H(Y/X=x)是对矩阵的行求和，是与x无关的一个常数，即
H (Y / X x) H ( p1' , p2' ... ps' )
因此
C max[H (Y ) H ( p1' , p2' ... ps' )]
当输出等概分布时，即H(Y)=logs时信道容量才能达到。
CDMA是码分多址的英文缩写(Code Division Multiple Access)，它是在数字技术的分支--扩频 通信技术上发展起来的一种崭新而成熟的无线通 信技术。CDMA技术的原理是基于扩频技术，即 将需传送的具有一定信号带宽信息数据，用一个 带宽远大于信号带宽的高速伪随机码进行调制， 使原数据信号的带宽被扩展，再经载波调制并发 送出去。接收端使用完全相同的伪随机码，与接 收的带宽信号作相关处理，把宽带信号换成原信 息数据的窄带信号即解扩，以实现信息通信。
为了保证话音业务信道的容量，应设计一个合适的接入信 道，以限制接入对反向链路容量的干扰。一般情况下，我 们保持接入信道干扰余量在业务信道负载的 10% 以下,业 务信道负载定义如下：对某个用户来说，CDMA 系统中的 其他用户都是干扰，这种干扰提高了接收机的噪声基底， 降低了接收机的灵敏度。
10
2
离散无记忆信道和信道容量
那么，在什么样的信源输出情况下，信道输出能等概分 布呢？
可以证明，
P( y1)
X
P(x)P(
y1
/
x)

1 r
X
P( y1 / x)
.......
1
P( ys ) X P(x)P( ys / x) r X P( ys / x)
输入等概分布时，输出也等概分布