求 A 的 LSE 以及最小 LS 误差。假定观测为 x[n] s[n] w[n], n 0,1,, N 1 ，如 果 w[n] 是方差为 2 的 WGN，求 LSE 的 PDF。
解： 令 S [s[0], s[1],..., s[ N 1]]T ， A ，那么信号模型可以写成如下
1 N 1 x ( n) N n 0 ˆ2 A/ 2 N 1 N 1 1 1 x ( n ) x ( n ) N n 0 N n0
2
8.对于信号模型
A 0 n M 1 s[n] A M n N 1
S T C 1 X 1 S T C 1S N
BLUE 为
x[n]
n 0
N 1
在拉普拉斯分布时，BLUE 并不是最小方差估计量。 ｂ）从题目可以知道， x ~ N ( ,1) 。那么该高斯分布的方差为 var( x ) 1。因此
S I,C I
S T C 1 X 1 BLUE 为 T 1 S C S N
p( x[n] | ) 1 exp 2 ( x[n] ) 2 2 2 1
2
2 在 给定的条件下， x[n] 是相互独立的。均值 具有先验 PDF N ( 0 , 0 )， 2 2 求 的 MMSE 和 MAP 估计量。另外，当 0 0 和 0 时将发生什么情况。
先验已知 P(Hi)，i=0,1,„,M-1 是 代价已知 Cij 是 Cij＝dij 否 数据PDF已知 是 否 指定先验PDF 是 尝试广义 ML准则（15） 否 否 否 否
是
贝叶斯风险 （5） 否 数据PDF已知 是 否 指定先验PDF 是
P(Hi)=1/M
是
MAP（4）
数据PDF已知 是
否
指定先验PDF 是
是
是 信号参数未知 否 LRT（1） 否 LRT（7） 是 噪声参数未知 信号和噪声 参数未知
线性信号模型
只有未知信号
是 GLRT（6）
是
是 是 LRT（16） 否 线性信号模型 高斯噪声 否
高斯噪声 GLRT（8，11） 噪声IID 线性信号模型 否 Rao(10,13) LMP(14) 是 Rao（21） 白高斯噪声
解：高斯分布的一阶矩和二阶矩为
E[ X ] E[ X 2 ] 2 2
那么
ˆ
1 N 1 x ( n) N n 0
1 x ( n) n 0 N
N 1 2
1 ˆ N
2
x ( n) n 0
Nx[n](n 0,1,, N 1) 具有 PDF
n 0
N 1
1 (2 )
2 1/ 2
2 1 exp 2 x[n] A 2
两边求对数，并分别对 A 和 sigma 求导数，可以得到估计参数的 MLE，如下
2 2 1 N 1 1 N 1 1 N 1 [ A, ] x(n), x(n) x(n) N n 0 N n 0 N n 0
Rao(19)
是 MAP（2）
是 数据PDF已知 是 否 指定先验PDF 是 否 GLRT（17）
GLRT（11） Rao(13)
是 GLRT（18）
ML（2）
二元假设检验的最佳贝叶斯方法
二元假设检验的最佳Neyman-Pearson方法
复合二元假设检验的准最佳方法
如何选择一个检测器－多元信号检测
解： 均值 的后验概率为
p( | X )
p( X | ) p( )
p( X | ) p( )d
N
对于分母来说，为定值，一般不作考虑。故而后验
概率可以写成如下形式
p( | X ) p( X | ) p( ) 1 1 exp 2 2 2 2
2011《信号检测与估计》复习参考题
参数估计部分：
1.基本概念理解：最小方差无偏估计，最佳线性无偏估计，最大似然估计，最小 二乘估计，矩方法估计，最小均方误差估计，最大似然估计，线性最小均方误差 估计，一般（经典）线性模型和贝叶斯线性模型。 2.观测数据为 {x[0], x[1],, x[ N 1]} ，其中 x[n] 是独立同分布的且服从 N (0, 2 ) ， 利用下式估计方差 2 ，即
解：从题目可以知道，似然函数为
N
P(T ; ) exp( Tn )
n 1
N exp( Tn )
n 1
N
两边取对数
L(T , ) ln P(T ; ) N ln Tn
n 1
N
求导数
L(T , ) N N Tn 0 n1
2011《信号检测与估计》复习纲要
“信号检测与估计” 理论是现代信息科学的一个重要组成部分， 它是把所要处理的问题， 归纳为一定的“数学模型”→运用“概率论” 、 “随机过程” 、 “数理统计”等数学工具→以普 遍化的形式提出，以寻求普遍化的答案和结论，并且理论与工程实践相结合，以雷达系统、 通信系统、声纳系统为主要研究对象，主要内容包括： 随机信号与噪声理论(The Theory of Random Signals and Noise)——分析随机信号与噪声 的数学工具 统计判决（检测）理论(Statistical Decision Theory)——研究在噪声干扰背景中，所关 心的信号是属于哪种状态的最佳判决问题(Detection of Signals in Noise) 参量估计理论(Estimation Theory of Signal Parameters)——研究在噪声干扰背景中， 通 过 对 信 号 的 观 测 ， 如 何 构 造 待 估 计 参 数 的 最 佳 估 计 量 问 题 (Estimation of Signal Parameters) 滤波理论(Filtering Theory)——为了改善信号质量，研究在噪声干扰中所感兴趣信号波 形的最佳恢复问题，或离散状态下表征信号在各离散时刻状态的最佳动态估计问题 (Estimation of Signal Waveform) 复习重点：信号检测与参量估计 信号检测：根据有限观测， “最佳”区分一个物理系统不同状态的理论 参量估计：根据有限观测， “最佳”找出一个物理系统不同参数的理论
求两种情况下均值 的 BLUE。解释一下 的 MVU 估计。
解 ： a ） 从 题 目 可 以 知 道 ， x ~ Laplace( ,1) 。 那 么 该 拉 普 拉 斯 分 布 的 方 差 为
var( x)
2
2
2 /1 2 。因此 S I , C 2I （S 为比例项，C 为协方差）
1 ( MA ( N M ) A) A N 2 ˆ ) 1 M 2 N M 2 Var ( A N N ˆ) E( A
ˆ ~ N ( A, 由此可见 A
2
N
)。
9.如果 N 个 IID 观测 {x[0], x[1],, x[ N 1]} 服从 N (, 2 ) ，求 [ , 2 ]T 的矩方 法估计量。
S H
其中 H 为观测矩阵，且 H 那么
1M T ， 1M 表示 M 维 [1,1,1...,1] 。 1 N M
( H T H )1 ( M N M )1
1 N
ˆ ˆ ( H T H )1 H T x 则 A
最小 LS 误差为
如何选择一个估计量&估计量选择的决策过程
信号处理 问题
是 是一个多维问题 否 先验知识 否 是 是 先验知识 否 新的数据模型或取 更多的数据 否 是
PDF已知 是 满足CRLB 否 完备充分统计量 存在 否 计算MLE 否 计算矩法估计量 否 是 是
否
噪声中的信号 是
否 PDF已知
否 前二阶矩已知 否 是 MMSE 估计量
否
ML（4）
多元假设检验的最佳贝叶斯方法
*注：
ARMA：自回归滑动平均 BLUE：最佳线性无偏估计 CFAR：恒虚警率 CRLB ：Cramer-Rao 下限 EM：数学期望最大化 GLRT：广义似然比检验 IID：独立同分布 LLR：对数似然比 LMMSE：线性最小均方误差 LMP：局部最大势 LRT：似然比检验 LSE：最小二乘估计 LSI：线性时不变 MAP：最大后验概率 MLE：最大似然估计 MMSE：最小均方误差估计 MVU：最小方差无偏 NP：Neyman-Pearson 准则 PRN：伪随机噪声 RBLS：Rao-Blackwell-Lehmann-Scheffe 定理 ROC:接收机工作特性 UMP：一致最大势 WGN：白色高斯噪声 WSS：广义平稳
N 1 1 M 1 x ( n ) x ( n) N n 0 nM
J min
N 1 1 M 1 x ( n) x ( n) x ( n) N n0 n 0 nM N 1 2
2
下面讨论 LSE 的分布：
那么 的 MLE 为


N
T
n 1
N
n
7.从 PDF N ( A, 2 ) 观测到 N 个 IID 样本，其中 A, 2 皆未知，求 SNR A2 / 2 的 MLE。
解：从题目可以知道，估计参数为 [ A, 2 ] 似然函数可以表示为
P( X ; )
存在请求出它的方差。
4.
解答：
5.观测数据样本 {x[0], x[1],, x[ N 1]} 是 IID 的，服从如下分布： (1)拉普拉斯