当前位置:文档之家› 信息论 基础理论与应用第三版(傅祖芸)-第9章-讲义

信息论 基础理论与应用第三版(傅祖芸)-第9章-讲义


9.1 差错控制的基本形式
现代数字通信系统中,利用检错和纠错的编码技术, 使得信道编译码具备一定的差错控制能力。主要方式有: 1、前向纠错(FEC)方式:
发送端信道编码器将信息码组编成具有一定纠错能力的码。
接收端信道译码器对接收码字译码,若传输中产生的差错数 目在码的纠错能力之内,译码器对差错进行定位并加以纠正。

按码的数学结构中校验元与信息元关系分类:

线性码——线性关系,如线性方程组
非线性码——非线性关系

按码的是否具有循环性分类:

循环码——分组码中任一码字的码元经过循环移位后, 仍是本码中的码字。
非循环码——至少有一个码字经循环移位后,不再是本 码中的码字。 代数码——近世代数,比较完善,如线性分组码。 几何码——投影几何学 算术码——数论,高等算术

5、检错删除:
接收端发现错码后,立即将其删除。
适用在发送码元中有大量多余度,删除部分接收码元不领域,如音乐、语音、图像、视频等领域, 有差错或损失的部分数据对人的主观感受影响不大,此时,可 根据已接收的数据采用内插或外推的技术,得到满足应用的输 出数据。
9.2 纠错码分类
C=(cn-1,cn-2,…,c0),
ci为码元(i=0,1,…n-1)
校验元:增加的 r=n-k 位码元。
n:码长;k:信息组长度; r:校验元的位长。

码C中的码字个数(k为信息位数):
q
k

(n,k)分组码:编码器输出为 q k 个码字组成的序列; n q 许用码字: 种码符号序列中,取出 q k个作为分组码 的码字。
t
V U
d min

dmin =5, 码距和纠错能力关系示意图
设V,U为距离最小的两个许用码字。 自接收序列中码字分别发生t位错误和e位错误,要检错、纠错, 需要使得大球和小球不相交。故: 须dmin≥ e+t+1,否则,译码时引起码字译码混淆。
调 制 器
传 输 媒 介
解 调 器
R 信
m' 信
道 译 码
源 译 码
信 宿
E 错误图样 噪声源

1、信息元、校验元、码字:
对编码器的输入信息序列,每k个信息符号分成信息组:
m=(mk-1,mk-2,…,m0),mi为信息元(i=0,1,…k-1)。
(在q元数字通信系统中,共有
qk
种信息组。)
码字: 为了纠错,编码器按一定规则增加产生r个多余符 号,形成长度为 n=k+r 的序列:
码的最小距离:dmin, d(C) 汉明重量(汉明势):码字中非零码元的个数 W(C)。 对2元码,汉明重量为码字中的“1”的个数。因此,二
元码字的汉明重量和汉明距离为:
W (C ) ci
i 0 n 1
ci [0,1]
模2加,若对应位不同 则为1;相同则为0。
其重量即为不相同的 总位数,也就是两个 码字的汉明距离。
(1,0,0)
a2
a0
(0,0,1)
(1,0,1)

定理:对于一个(n,k)分组码C,最小距离为dmin,则:
⑴若能检测(发现)e个随机错误,则要求 dmin≥ e+1 ; 或:可检测出任意小于等于 e = dmin-1个随机差错; ⑵若能纠正 t 个随机错误,则要求 dmin≥ 2t+1 ; 或:可纠正任意小于等于 t= INT [(dmin-1) / 2]个随机差错; ⑶若能纠正 t 个随机错误,同时能检测e ≥t 个随机错误,则 要求: dmin≥ t+e+1 。

HEC的特点
HEC
总体性能介于FEC和ARQ之间,误码率低,但需要反馈信道。


实时性和连续性好。
设备不太复杂,应用广泛。
4、信息反馈(IRQ)方式(回程校验方式):
接收端收到信道传输来的码后,全部由反馈信道发回发送端; 发送端将发送的码与反馈回的码进行比较,发现错误后,把出 错的码再次重发,直到接收端认为正确为止。
1、纠错码的分类:

按纠正错误的类型分类:

纠随机差错码:无记忆信道中,噪声随机独立地影响每个 码元,造成了随机差错; 纠突发差错码:有记忆信道中,突发噪声可造成突发性的 成群差错(如太阳黑子、雷电等引起)。 纠混合差错码



按应用目的分类:


检错码——只能检测错误是否存在。
纠错码——能够检测错误,并能够自动纠正错误。 纠删码——能够纠正删除(丢失)了的信息。
P( E ) p
n W ( E )
p
W (E)
差错图样数 0位差错(全对): W(E0)=0,
概率
P ( E0 ) p
n
C
1位随机差错:
2位随机差错: ……
W(E1)=1,
W(E2)=2,
C C C
0 n 1 n 2 n
P( E1 ) p
n 1
p
P( E2 ) p
P ( Ee ) p
消息(不编码) 发送端


接收端 不检错、纠错
消息
IRQ特点:
IRQ
需要双向控制,需要反馈信道。 系统的控制设备和存储设备相对复杂。 无需编译码设备,接收端不具备检、纠错能力强,整体系统纠 错能力强,可大大降低整个系统误码率。 具有自适应性,但若重发频繁,将使传输效率降低,甚至系统 阻塞,使得连续性和实时性变差。
例 重复码(3,1)为:(000,111),最小码间距为3。
两个码字在传输后发生1位错误的接收序列形成两个互不相交 的子集,按照最小距离译码准则,就能纠正1位随机错误。若发 生2-3位错误,则接收序列进入另一个子集内,无法纠正。
a1
(0,1,0) (1,1,0)
(0,1,1)
(1,1,1)
(0,0,0)
编码原则:
在n次扩展信道输入符号序列中选取M个作为码字构成一组 码C,并尽量使选取的M个码字中两两不相同码字的汉明距离尽 可能地大;
译码原则:
当收到符号序列后,翻译成与之汉明距离最近的码字(最大 似然准则)。 几十年来,基于香农编码定理和以上编译码原则,科技工作 者们开发了很多具有纠错能力的信道编码,如线性分组码、循环 码、BCH码、卷积码、TCM码、Tuobo码等,在通信系统中得到 了广泛应用。
若为随机差错,错误码元为: 2,3,7,错误数量 =W(E)=3; 若为突发差错,错误码元串长度为:6;

出错范围:从错误图样E中的第一个1到最后一个1, 其 错误串中的0表示该位码元未发生错误。

BSC(二元无记忆对称信道)的错误图样的出现概率
设p为错误概率(<<1),则n次无记忆扩展信道中,随机差错 的某错误图样E的出现概率为:


按构造码的数学理论分类:


组合码——排列组合,数论
实际的码可能同时分别具备以上某些特征,比如:某一纠错码 可以同时是线性码、分组码、循环码、纠随机差错码、二元码、代 数码等。
9.3 纠错码的概念及其纠错能力
信息序列 码字序列 接收序列 译码后信息序列
信 源
信 源 编 码
m 信
C
道 编 码

n k q q 禁用码字:其余 种码符号序列。
an-1
an-2
...
ar
ar-1
an-2
...
a0
k个信息位
码长 n = k + r
r个监督位
t
分组码的结构

卷积码(n,k0,L):编码器输出的校验元不仅由本组信息元有关, 也与其前面若干段的信息组所确定。

2、码字的汉明重量:


汉明距离D(C1,C2):对应位臵上不同码元的个数。
可检错纠错的码 发送端
FEC
接收端
检错、纠错

FEC 特点
单向控制,不需要反馈信道;时延小,实时性好。 为适应较差信道,冗余码元多,编码效率低,译码设备复杂。

有一定的纠错范围限制。
适用于容错能力强的语音、图像传输;不适合容错能力弱的 数据通信网。
2、反馈重发(ARQ)方式(检错重发方式): 发送端发送的是能够发现(检测)错误的码; 接收端收到信道传输来的码后,译码器依据该码编码规则, 判决出当前码字传输是否出错,并把判决结果(应答信号)反 馈至发送端。发送端把接收端认为有错的信息重新发出,直到 接收端认为正确为止。
设V,U为距离最小的两个许用码字。若某码字传输发生错误,按 最小距离准则译码,为了检测 R=U+E: 须dmin≥ e+1,否则,会发生码字译码混淆,如 R+E =V 。
e V U
dmin d min =4, 码距和检错能力关系示意图
设V,U为距离最小的两个许用码字。若某码字传输发生错误,按 最小距离准则译码. 若 R=V+E,W(E)= t,则若 dmin < 2t+1 , 则可能译码为 U。 错误! 当 dmin ≥ 2t+1,D(R,V)< D(R,U)译码为 V 。 正确!
n2
p 2 ... p n
P( E0 ) P( E1 ) P( E2 ) ... P( Ee ) ... P( En )
发生多位错误的概率小于较少位数随机错误的概率。 因此,无记忆信道中,一般优先纠正较少位数的随机错 误,如1-2位,此时的误码率就可下降几个数量级。
第9章 信道的纠错编码
香农第二定理指出,只要信息传输率小于信道容量,通 过适当的编译码方法,就能以任意小的错误概率传输信息。 但从实际工程看,并没有指出具体的编译码方法。 这正是信道纠错编码要解决的问题。
相关主题