关于考试需要强调的 题目看清，不要有什么遗漏
判断并纠错、最佳输入、并求dmin……
督矩阵； 2. 写出信息元110对应的系统码码字； 3. 求dmin。
步骤清晰，各子题加上标号，若答题不在指 定位置，一定要说明！ –– 避免冤假错案 确定答题要点！得分点
正确的、重要的步骤不能省略！ 正确的、重要的公式要写出来！ 太过复杂的计算步骤要注意把握时间
最佳译码规则
最大后验概率译码 极大似然译码 – 最小汉明距离

香农第二定理 – 有噪信道编码定理
香农第二定理指出了“高效率、高可靠性”信道编 信道容量是进行可靠传输的最大信息传输率
2
研究目的：第六章着重讨论有噪信道中如何能使消息通 研究目的 过传输后发生的错误最少，并得出非常重要的香农第二 定理。第九章给出纠错编码中线性分组码的基本理论， 1 以及如何编码、判断纠检错能力及如何进行纠错译码。
4、给出了（6，3）线性分组码的全部码字
纠检错能力判断？ 如何构造生成矩阵？G 中每行都是一个合法码字 如何判断信息元的位置？ 严禁“列调整/列变换”！ 注：码字和码元的区别（C，c）
17
7、对所给G矩阵进行初等行变换，化成标准式 [I P]
矩阵变换过程不能用等号 对于每步变换都要给出说明 标准形式必然含有单位阵
6
当信源,信道给定时，信道疑义度确定译码错误概率的下限 5
1
主要的解题思路

容易混淆的一些概念

计算类型
求解最佳译码规则 求解最小的平均错误译码概率PE 或PE MIN 求解信道编码后的最大信息传输率

解题中常用到的两个矩阵
信道矩阵、消息传递矩阵
所用到的译码规则
输入概率是否相等？最小译码错误的求解？
14

汉明码
只纠一位错误的完备码 扩展汉明码（增加一位偶校验位）
13
第九章 纠错编码（续）

纠错编码的知识点

循环码
满足循环封闭性的线性分组码 所特有的性质： 生成多项式g(x)可解决编码、译码的所有问题 码多项式的引入（多项式系数的含义） 生成多项式，生成矩阵，监督矩阵 编码：一般码、系统码 纠检错：如何判断传输是否出错


译码规则
最大后验、极大似然、汉明距离

1. 2. 3. 4.
解题基本步骤（按题目要求，次序不能改）
列出消息在给定信道传递时的转移概率矩阵 确定译码规则 – 不一定非要写出名称 给出译码结果 求解最小平均译码错误
7

默认的符号命名
p
p
PE
PE
同一道题内的命名必须一致！
8
作业

作业讲解 - 1 1、输入：单符号、不等概，求解PE
信息论的旅程
3、信源的输出中含有多 少信息？可压缩程度？ 4、传输信息的最高 速率（信道容量）
第六章 有噪信道编码

信道编码的目标与作用 – 提高可靠性！ 译码规则、错误概率及平均错误概率PE
PE与译码规则 费诺不等式 PE与编码方法

5、无失真信源编码 7、限失真信源编码 6,9、有噪信道编码

20
11、已知(n, k)循环码的生成多项式
求生成矩阵和校验矩阵 求编码后的码多项式 主要问题：编码中用致！

注意题目要求：系统码？码字/码多项式？判 断是否出错/对传输错误进行纠正？
19
作业讲解 - 补充题2
已知生成多项式g(x)=(x+1)(x3+x+1) 1. 写出n=7的循环码的标准生成矩阵和监
译码规则/结果必须给出 几种译码规则在此题的应用分析 汉明距离不能与输入概率直接相乘！

个‘1’ 2. 请确定最佳译码规则，并求解最小译码错误
对于译码规则的说明

正确译码概率、错误译码概率的求解要区分！
12
11
2
第九章 纠错编码 纠错编码的作用和基本编码思路 – 构建好码 线性分组码 (n, k) – 模2运算
补充 及 小改动： 1. 用户要求输入的是两个消息，分别为81个‘0’和81
求解信息传输率 证明平均译码错误为0 （译码规则已给，求平 均译码错误的验证） 给定待传输消息特性、等概输入、最大似然译 码，求平均译码错误概率
5、给定信道，求信道容量

7、输入消息已知、信道已知，要求找出一种译 码规则使平均错误概率最小

18
3
作业讲解 - 3 10、循环码中，判断接收到的码字是否出错？
合法循环码都是生成多项式的倍式！ 不能自己给出假定条件（系统码、信息元之类的）
作业讲解 - 补充题1 已知循环码的生成多项式如下，对输入信息位 0110，求对应系统码的码多项式。并求dmin。 g(x)＝x3＋x2＋1 如果不要求生成系统码， 有无其他快速编码方法？ 要求用三种方法求解 1.先求监督位，直接放在信息元0110之 后，……； 2.先由g(x)左移得到生成矩阵，再进行初等行 变换获得标准形式的生成矩阵，再利用 C=mG求解，……； 3.利用生成多项式直接求解标准生成矩阵，再 利用C=mG求解，……。
第六章作业
第一次：1 第二次： 4、 5、7、10
1. 2.
关于第10题的说明及小小改动： 用户要求输入的是两个消息，分别为81个‘0’ 和81个‘1’ 请确定最佳译码规则，并求解最小译码错误
9
10
作业讲解 - 2 4、四个消息通过给定信道，并已知译码规则
1. 2.
作业讲解 - 3 10、给定二元对称信道，输入等概、单符号错 误传递概率0.01，求n=80长的代码进入信道 后，最小PE？
码的存在性，以及存在这种信道编码的必要条件。
主要研究思路

最佳译码规则
最大后验概率规则 p ( x | y j ) p ( xi | y j ) 极大似然译码规则
提高通信可靠性 – 降低译码错误！
什么是译码？什么是（平均）译码错误概率？
PE p( y j ) p[e | y j ] 1 p ( y j ) p[ F y j | y j ]

如何判断传输是否出错？ 如何纠错？ ……
16
作业讲解 - 1 1、生成矩阵与校验矩阵之间的关系 2、如何编码？
输入序列、输出也是序列（给出编码后的码序列） C=mG，其中m是k维，不是矩阵 1. 2.
作业讲解 - 2 5、已知(n, k)线性分组码的校验矩阵，求
信息元、编码效率、最小汉明距离 利用H 阵求解最小汉明距离（任意、存在） 在求解H标准形式之后，仍应说明哪t+1列相关

21
先易后难，增强信心！
22
祝复习顺利！
4
纠错码的结构性如何体现？ 对于（n, k）线性分组码
生成矩阵、校验矩阵的行-列数、各自特点及用途 循环码中生成多项式的最高次数

15
如何编码？如何解码？
如何编出系统码？
如何判断给定码组的纠检错能力？ 如何判断给定编码方法的编码效率
区别于信源编码的编码效率！
多项式的加、乘、除、模运算！

校验矩阵H和生成矩阵G：构成、性质、作用 如何编码、纠检错？ 系统码、分组码、标准H/G、信息元、校验元、
求最小汉明距离
伴随式、错误图样等基本概念
纠检错能力分析 最小汉明距离的三种求解方法及适用条件 线性分组码的性质
1 H 1 1 1
1 0 1 1 1 0 0 0 0 1 1 1 0 1 0 0 1 1 0 1 0 0 1 0 1 1 1 0 0 0 0 1
s s j 1 j 1
– 当输入等概时
译码错误与什么有关？ 最佳译码规则 – 平均译码错误最小的译码准则！ 费诺不等式给出了平均译码错误的下限 改变信道 – 进一步降低平均译码错误！ 信道编码后的信息传输率与什么有关？ 香农第二定理说明了什么？
3
p ( x ) p ( y j | x ) p ( xi ) p ( y j | xi )
最小汉明距离译码
D ( * , j ) Dmin (i , j )
4
费诺不等式 – 说明
H ( X | Y ) H ( PE ) PE log( r 1)

香农第二定理 - 有噪信道编码定理 信息传输率 R log M / n 为编码后每个码符 号所携带的信息量（单位：比特/码符号） 香农第二定理 – 有噪信道编码定理 设有一离散无记忆平稳信道，其信道容量为 C，只要待传送的信息传输率R<C，则至少存 在一种编码，当码长n足够大时，使译码错误 概率任意小。 重要结论：信道容量是进行可靠传输的最大 信息传输速率。 香农第二定理指出了“高效率、高可靠性”信 道编码的存在性，以及存在这种信道编码的 必要条件。