x(n − k )(d ∗ (n) − +∞ h∗ (m) x∗ (n − m)) = 0 E ∑ m =0
整理得
rdx (−k ) = ∑ h∗ (m)rxx (m − k )
m=0
+∞
k = 0,1, 2, ⋅⋅⋅
13
∗ ryx (−k ) = rxy (k ) ,得 对两边取共轭，并利用相关函数的性质
考虑系统的因果性，可得到滤波器的输出
y (n) = h(n) ∗ x(n) = ∑ h(m) x(n − m) n = 0,1, ⋅⋅⋅⋅⋅⋅
m =0
8
+∞
e(n)及其均方误差 E e(n) 2 分别为 d (n) 设期望信号 ，误差信号
e( n ) = d ( n) − y ( n) = s ( n ) − y ( n)
j = 0,1, 2, ⋅⋅⋅⋅⋅⋅
记
∂ ∂ ∇j = + j ∂a j ∂b j
j = 0,1, 2, ⋅⋅⋅⋅⋅⋅
则 ( ∆ ) 式可写为
e( n ) 2 = 0 ∇ jE
10
将上式展开
∂e(n) ∗ ∂e∗ (n) ∂e(n) ∗ ∂e∗ (n) ∇ j E e( n ) = E e ( n) + e( n ) + je (n) + je(n) = 0 ∂a j ∂b j ∂b j ∂a j
rxd (k ) = ∑ h(m)rxx (k − m) = h(k ) ∗ rxx (k )
m=0
+∞
k = 0,1, 2, ⋅⋅⋅
此式称为维纳 霍夫 维纳-霍夫 方程。解此方程可得到最 维纳 霍夫(Wiener-Hopf)方程 方程 优权系数 h0 , h1 , h2 , ⋅⋅⋅⋅⋅⋅，此式是Wiener滤波器的一般方程， 根据权系数是有限个还是无限个可以分别设计IIR型和FIR型 Wiener滤波器。 FIR滤波器 h(n) 是一个长度为M的因果序列(即 h(n) 是一个 长度为M的FIR滤波器)时，维纳-霍夫方程表述为
5
图2.1.4 线性系统辨识的结构
d (n) 是Wiener滤波器的期望响应，使 y (n)与 d (n)间的估计误
差的均方值最小。
6
•最优线性预测 通过一个随机信号已存在的数据 {x(n − 1) , x(n − 2) , ⋅⋅⋅ ,
x(n − m + 1)} 来预测一个新值 x(n)，这是一步前向线性预测问 题。由 {x(n − 1), x(n − 2), ⋅⋅⋅, x(n − m + 1)} 的线性组合得到对 x(n)
2 ∞ 2 2 E e( n ) = E d ( n ) − y ( n ) = E d ( n ) − ∑ h ( m ) x ( n − m ) m =0
要使均方误差为最小，需满足：
2 ∂E e(n) =0 ∂h jLeabharlann 则维纳-霍夫方程可写成矩阵形式
R xd = R xx h
对上式求逆，得
h = R −1R xd xx
15
维纳-霍夫方程矩阵形式
h = R −1R xd xx
此式表明，已知期望信号与观测数据的互相关函数及观 测数据的自相关函数时，可以通过矩阵求逆运算，得到维纳 滤波器的最佳解。 同时可以看到，直接从时域求解维纳滤波器，并不是一 个有效的方法，当 M 较大时，计算量很大，并需计算 R xx ， 从而要求存储量也很大。另外，具体实现时，滤波器的长度 由实验确定，M 增加，需在新 M 基础上重新计算。
2 2
M −1
− ∑ h(i ) E x(n − i )d (n) + ∑ ∑ h∗ (k )h(i )E[ x* (n − k ) x(n − i )] k =0 i =0 i =0
∗
M −1
* M −1 d (n) − M −1 h(i ) x(n − i ) = E d ( n) − ∑ h ( k ) x ( n − k ) ∑ k =0 i =0
17
E e( n ) = E d ( n ) − ∑ h ∗ ( k ) E x ∗ ( n − k ) d ( n ) k =0
11
e(n) 2 表达式，整理得： 将如上各项代入 ∇ j E
e(n) 2 = −2 E x∗ (n − j )e(n) = 0 ∇ jE
j = 0,1,2,⋅⋅⋅,
因此
E x∗ (n − j)e(n) = 0
等价于
Ex(n− j)e∗(n) =0
的最优估计，相当于设计一个FIR滤波器对{x(n − 1) , x(n − 2) , , ⋅⋅⋅, x(n − m + 1)}进行线性运算，来估计期望响应 d ( n) = x(n) ， Wiener滤波器可以用于设计均方误差最小的最优预测器。 •阵列波束形成，图象编码
7
2.2 维纳滤波器的离散形式－－时域解
来自于实际的对Wiener滤波器的几个应用实例：
•通信的信道均衡器 在通信系统中，为了在接收端补偿信道传输引入的各种 畸变，在对接收信号进行检测之前，通过一个滤波器对信道 失真进行校正，这个滤波器称为信道均衡器。
图2.1.3 信道均衡器的结构示意
4
s (n) 发送端发送序列
x(n) 经信道传输后，接收端的滤波器输入信号，可能
第二章 维纳滤波和卡尔曼滤波
2.1 引言
观测数据 x(n)，信号s ( n)，噪声 v ( n)
x ( n) = s ( n) + v ( n)
图2.1.1 观测信号的组成
图2.1.2 信号处理的一般模型
s 滤波的目的：为了得到不含噪声的信号 s ( n) 。 ( n) 称 期望信号。 y 系统的期望输出： d ( n) 。 yd (n) = s ( n)
维纳滤波器设计的任务就是选择 h(n),使其输出信号 y (n) 与期望信号 d ( n) 误差的均方值最小，实质是解维纳－霍夫方程。 2.2.1维纳滤波器时域求解的方法 假设滤波系统 h(n)是一个线性时不变系统，它的 h(n)和输 入信号都是复函数，设
h(n) = a (n) + jb(n)
n = 0,1, ⋅⋅⋅⋅⋅⋅
h1rxx (1) + h2 rxx (0) + ⋅⋅⋅ + hM rxx (2 − M ) = rxd (1) k =1 时 ⋮ k = M − 1 时 h1rxx ( M − 1) + h2 rxx ( M − 2) + ⋅⋅⋅ + hM rxx (0) = rxd ( M − 1)
定义
rxx∗(1 ) rxx(0) rxd (0) h1 r (1) h ) rxx(0) rxx(1 2 R = xd h= Rxx = xd ⋮ ⋮ ⋮ ⋮ ) hM M ×1 rxd (M −1)M×1 rxx(M−1 rxx(M−2) ⋯ rxx∗(M−1 ) ⋯ rxx∗(M−2) ⋱ ⋮ ⋯ rxx(0) M×M
2
维纳滤波和卡尔曼滤波比较： 共同点： 共同点：都解决最佳线性滤波和预测问题，都以均方误差最 小为最优准则，平稳条件下它们得到的稳态结果一致。 不同点： 不同点： (1)维纳滤波 维纳滤波根据 x(n), x(n − 1),⋯ , x(n − m) 估计信号的当前值， 维纳滤波 它的解以系统的系统函数 H ( z )或单位脉冲响应 h(n)形式给出。 这种系统常称为最佳线性滤波器。 卡尔曼滤波用前一个估计值和最近一个观察数据来估计信号当 卡尔曼滤波 前值，它用状态方程和递推的方法进行估计，它的解以估计值 （常是状态变量值）形式给出。系统常称为线性最优估计器。 (2)维纳滤波 维纳滤波只适用于平稳随机过程； 维纳滤波 ； 卡尔曼滤波适用于平稳和非平稳随机过程。 卡尔曼滤波 (3)维纳滤波 维纳滤波设计时要已知信号与噪声的统计分布规律。 维纳滤波 卡尔曼滤波设计时要求已知状态方程和量测方程。 卡尔曼滤波 3
上式说明，均方误差达到最小值的充要条件是误差信号与任 一进入估计的输入信号正交，这就是正交性原理 正交性原理。 正交性原理 下面计算输出信号与误差信号的互相关函数
∞ ∞ E y ( n ) e∗ ( n ) = E ∑ h ( j ) x ( n − j ) e∗ ( n ) = ∑ h ( j ) E x ( n − j ) e∗ ( n ) j =0 j =0 12
b b 这里，h j 表示 h( j )，用 a j ， j 表示 a( j ) ， ( j ) 。
9
e( n) 2 是一标量，因此上式是一个标量对复函数 由于 E 求导的问题，等价于
2 2 ∂E e ( n ) ∂E e ( n ) + j = 0 ⋯⋯ ( ∆ ) ∂a j ∂b j
假定滤波器工作于最佳状态，滤波器的输出 yopt (n) 与期望信 号 d (n) 的误差为 eopt (n) ，则
∗ E yopt (n)eopt (n) = 0
可见，在滤波器工作于最佳状态时，输出和误差信号也 是正交的。 2.2.2维纳-霍夫方程 将 E x(n − k )e∗ (n) = 0 展开，得
16
2.2.3 FIR型Wiener滤波器的最小均方误差 设所研究的信号是零均值的，滤波器为FIR型，长度等于 M，则
2 2 E e( n) = E d ( n ) − y ( n )
2 M −1 = E d ( n) − ∑ h( k ) x ( n − k ) k =0