Q1 (n), 若n k E v1 (n) v (k ) 其他 0,
H 1
Q2 (n), 若n k E v 2 (n) v (k ) 其他 0,
H 2
已知:
状态转移矩阵 F(n 1, n) 观测矩阵 C(n)
过程噪声相关矩阵 Q1 (n) 观测噪声相关矩阵 Q2 (n)
k (1, 0) E x 2 (n) E x 2 (1) P0
依次可以递推出 g (1), k (2,1); g (2), k (3, 2);
4.4 LMS自适应算法
LMS: Least Mean Squares
随机优化问题 Wiener 滤波器: 最陡下降法
min E{| d (n) w H (n)u(n) |2 }
H E { v ( n ) v 假设: 1 2 (n)} O
线性状态模型、高斯噪声 v1 (n), v2 (n)
Kalman 滤波问题 (一步预报)：
已知含噪数据 y(1),
, y(n) ，求 y(i) 无噪声的估计值:
⑴ i n (滤波)：已知y (1), ⑵ i n(平滑)：已知y (1), ⑶ i n(预测)：已知y (1), 一步预测：已知y (1),
Kalman滤波器
状态空间方程：
x(n 1) F(n 1, n)x(n) v1 (n) y (n) C(n)x(n) v 2 (n) 观测方程
状态(转移)方程
x(n)：状态向量，不可观测的、待求的向量 y (n)：观测数据向量 F(n 1, n)：状态转移矩阵 C(n)：观测矩阵 v1 (n)：过程噪声向量； v 2 (n)：观测噪声向量
dx (t ) x (t ) 0 dt
x(n 1) x(n) 0
状态方程 观测方程
x(n 1) x(n) y(n) x(n) v(n)
F(n 1, n) 1
Q1 (n) 0
2 Q2 (n) v
C(n) 1
k ( n, n 1) g ( n) k ( n, n 1) 2 v y ( n) x ( n) x( n 1) x (n) g (n) 2 k (n 1, n) k (n, n 1) 1 g (n) g (n) v
ˆ ( n) , y (n)，求y ˆ (i )，i n , y (n)，求y ˆ (i)，i n , y ( n)，求y
ˆ (n＋1) , y (n)，求y , y ( n)
ˆ n 1| y (1), 数学符号：y1 (n 1) y
新息方法： 新息 (innovation)
牛顿法:
w(n) w(n 1) (n)[2 J (w(n 1))]1w* J (w(n 1))
J (w(n 1)) : 共轭梯度的梯度(Hessian矩阵)
2
例如，若 J (w (n 1)) w H (n 1) Aw(n 1), 则 w* J (w (n 1)) Aw (n 1) w* J (w (n 1)) J (w (n 1)) A T w (n 1)
w
1 wopt Ruu rud
w(n) w(n 1) (n) w* J (w(n 1)) w* J (w(n 1)) w* E{| d (n) w H (n 1)u(n) |2 }
真实梯度
最陡下降法的改进:
w(n) w(n 1) (n)Q(n)w* J (w(n 1))
2
确定性优化 min
w
H 2 | d ( n ) w ( n ) u ( n ) | n 1
N
也称随机逼近最优化。求解的方法称为随机逼近方法。
w(n 1)
w (n)
w(n) w(n 1) 校正项(用误差控制)
后验估计误差： (n) d (n) y(n) d (n) w (n)u(n)
, y(n) α(1), , α(n)（一一对应关系) α(n) 保留有 y (n) 的所有信息
ˆ 1 (n) 估计 x(n) 状态向量估计误差：ε(n, n 1) x(n) x
相关矩阵：K (n, n Байду номын сангаас1) E ε(n, n 1)ε H (n, n 1)
G (n) F(n 1, n)K (n, n 1)CH (n) C( n)K ( n, n 1)C H ( n) Q ( n) 1 2 α (n) y (n) C(n)x ˆ 1 ( n) 校正项 ˆ x ( n 1) F ( n 1, n ) x ( n ) G ( n ) α ( n ) 1 1 1 P ( n ) K ( n , n 1) F (n 1, n)G (n)C(n)K (n, n 1) K (n 1, n) F(n 1, n)P(n)F H (n 1, n) Q1 ( n)
ˆ 1 (n) α(n) y(n) y
称 α(n) 为 y (n) 的新息过程向量。 性质1: E α (n)y H (n) 0 (正交), α(n) 是不同于 y (n) 的新过程 性质2: E α (n)α H (n) 0, n k， α(n) 是个白噪声过程 性质3: y(1),
G ( n) ：Kalman 增益矩阵 α(n) ：Kalman 新息
例：x(t ) 是一个时不变的标量随机变量，y(t ) x(t ) v(t ) 为 观测数据,其中 v(t ) 为白噪声。若用 Kalman 滤波器自适应 估计 x(t )，设计 Kalman 滤波器。 设计过程：⑴ 构造状态空间方程；⑵ 设计x(n)的更新公式