当M = 8时，即8进制波形，I = 3比特。
3
第1章 绪论

对于非等概率情况 设：一个离散信源是由M个符号组成的集合，其中每个符 号xi (i = 1, 2, 3, …, M)按一定的概率P(xi)独立出现，即
P x1 , P x2 ,
M i 1 i
x1 ,
x2 ,
,
, P xM
xM

且有
P( x ) 1
则x1 , x2, x3,…, xM 所包含的信息量分别为
log2 P( x1 ) ， log2 P( x2 ) ， ， log2 P( xM )
于是，每个符号所含平均信息量为
H ( x) P( x1 )[ log 2 P( x1 )] P( x2 )[ log 2 P( x2 )] P( xi )lo g 2 P( xi ) (比特 / 符号）
11
第4章 信 道

4.6.2 连续信道容量
可以证明
S Ct B log2 1 N (b / s)
式中 S － 信号平均功率 （W）； N － 噪声功率（W）； B － 带宽（Hz）。 设噪声单边功率谱密度为n0，则N = n0B； 故上式可以改写成：
S Ct B log2 1 n B 0 (b / s)
6
第1章 绪论

数字通信系统

有效性：用传输速率和频带利用率来衡量。

码元传输速率RB：定义为单位时间（每秒）传送码 元的数目，单位为波特（Baud），简记为B。
RB 1 T (B)
式中T － 码元的持续时间（秒）

信息传输速率Rb：定义为单位时间内传递的平均信 息量或比特数，单位为比特/秒，简记为 b/s ，或bps
(b)
2
第1章 绪论

若有M个等概率波形（P = 1/M），且每一个波形的出现 是独立的，则传送M进制波形之一的信息量为
I log 2 1 1 log 2 log 2 M P 1/ M ( b)

若M是2的整幂次，即 M = 2k，则有
I log2 2k k (b)
当M = 4时，即4进制波形，I = 2比特，
通信原理
1
第1章 绪论

度量信息量的方法

事件的不确定程度可以用其出现的概率来描述： 消息出现的概率越小，则消息中包含的信息量就越 大。
I loga 1 loga P( x) P ( x)
－信息量的定义
通常广泛使用的单位为比特，这时有
1 I log 2 log 2 P( x) P( x)
i 1 M
P( xM )[ log 2 P( xM )] (1.4 6)
由于H(x)同热力学中的熵形式相似，故称它为信息源的熵4
第1章 绪论

【例1-2】 一离散信源由“0”，“1”，“2”，“3”四个 符号组成，它们出现的概率分别为3/8，1/4，1/4，1/8， 且每个符号的出现都是独立的。试求某消息 2010201302130 01203210100321010023102002010312032100120210的 信息量。
【解】此消息中，“0”出现23次，“1”出现14次，“2” 出现13次，“3”出现7次，共有57个符号，故该消息的 信息量
I 23log2 8 / 3 14log2 4 13log2 4 7 log2 8 108 (b)
每个符号的算术平均信息量为
I 108 I 1.89 (比特 / 符号） 符号数 57
由上式可见，连续信道的容量Ct和信道带宽B、信号功 率S及噪声功率谱密度n0三个因素有关。
12
第3章 随机过程

3.7 高斯白噪声和带限白噪声

白噪声n (t)

定义：功率谱密度在所有频率上均为常数的噪声， 即 n ( f ) － 双边功率谱密度 Pn ( f ) 0 2 或 Pn ( f ) n0 (0 f ) － 单边功率谱密度 式中 n0 － 正常数
7
第1章 绪论

码元速率和信息速率的关系
或
Rb RB log2 M
RB Rb log2 M
(b/s)
(B)
对于二进制数字信号：M = 2，码元速率和信息速率 在数量上相等。 对于多进制，例如在八进制（M = 8）中，若码元速 率为1200 B，，则信息速率为3600 b/s。
8
例题


如果二进制独立等概信号的码元宽度为 0.5ms，求RB和Rb，四进制时又是多少? 解（1） R 1 2000 (Band)
10
第4章 信 道

4.3.2 编忆信道模型
P(0 / 0) 0 P(1 / 0) 发送端 P(0 / 1) 1 P(1 / 1) 1 接收端 0
图4-13 二进制编码信道模型


P(0 / 0)和P(1 / 1) － 正确转移概率 P(1/ 0)和P(0 / 1) － 错误转移概率 P(0 / 0) = 1 – P(1 / 0) P(1 / 1) = 1 – P(0 / 1)
13
第4章 信 道

【例4.6.2】已知黑白电视图像信号每帧有30万个像素；每个像素有8 个亮度电平；各电平独立地以等概率出现；图像每秒发送25帧。若 要求接收图像信噪比达到30dB，试求所需传输带宽。
5
第1章 绪论
若用熵的概念来计算：
3 3 1 1 1 1 1 1 H log2 log2 log2 log2 8 8 4 4 4 4 8 8 1.906 （比特 / 符号）
则该消息的信息量
I 571.906 108.64 (b)
以上两种结果略有差别的原因在于，它们平均处 理方法不同。前一种按算数平均的方法，结果可能存 在误差。这种误差将随着消息序列中符号数的增加而 减小。 当消息序列较长时，用熵的概念计算更为方便。
B
T
Rb RB log2 M 2000 (b/s)

（2）
RB
1 2000 (Band) T
Rb RB log2 4 4000 (b/s)
9
第1章 绪论

频带利用率：定义为单位带宽（1赫兹）内的传输 速率，即
或
RB B (B/Hz)
b
Rb B
b/(s Hz)