不为零。 即互累计量为零。 (可作为检验独立的一个判据)
16
预备知识：二、信息论基本知识
1、熵
信号中平均所含有的信息量。随机信号 x x
单变量：H ( x ) p ( x ) l o g p ( x ) d x E ( l o g p ( x ) )
信号源
观察信号
估计信号
s 1( t )
s 2(t)
混合
信 道1
x 1(t)
x 2(t)
解混
y 1(t) y 2(t)
信道2
s 3(t)
系统
x 3(t)
信道3
矩阵
y 3(t)
A
B
sM (t)
信道n
xM (t)
yM (t)
S (t)
X (t)
Y (t)
7
问题的提出：3、独立分量分析法的基本问题
❖ 简化假设：
1、A是线性系统，可用矩阵表示. (实际仿真时是随机阵)
2、信道对信号无影响，观察信道数与信号数相同，(A，B方阵)
X(t)AS(t) N点采样 Y(t)BX(t)
X A S
MN MM MN
Y B X
MN MM MN
信号源
观察信号
估计信号
s 1( t )
s 2(t)
混合
信 道1
x 1(t)
x 2(t)
起来的
信道
S (t)
X (t)
H
❖ICA是盲信号处理的一个组成部分，20世纪 90年代后期(1986、1991)发展起来的一项 新处理方法，最早是针对“鸡尾酒会问题” 这一声学问题发展起来的
❖ 鸡尾酒会问题：从酒会的嘈杂的声音中，如何分 辨出所关心的声音
11
问题的提出：4、独立分量分析法的历史与应用
———— {X(ti)}
因而信号X(t)可以看成是一个随机变量, 并可估算它的各阶矩， 以及谈论它的pdf，独立、相关等统计特性。
例如：
1 N
EX(t)= X(ti) N i=1
DX(t)=1
N
(X(ti)EX(t))2
Ni=1
1
0.5
0
-0.5
-1
0
0.2
0.4
0.6
0.8
61
1.2
1.4
1.6
1.8
2
问题的提出：3、独立分量分析法的基本问题
❖ 假设源信号若干个统计上相互独立的信号组成的，它们在 空间中形成交叠，独立分量分析(Independent Component Analysis，ICA)是借助于多个信道同步观察交
叠信号，将观察信号经过解混分解成若干独立成分，作为 对源信号的一组估计。
❖4、累计量
n n n M
n阶累计量：
单变量
dn(s)
kn dsn s0
k1 m1
期望
k2m2m12
方差
k 3 m 3 3 m 2 m 1 2 m 1 3
多 变 量 （联合累计量）
k 4 m 4 3 m 2 2 4 m 3 m 1 12m 2m 126m 14
K n 1 ,n 2 , ,n M s1 n 1 , s 2 n n 2,(s), sM n Ms1 s2 sM 0
n n 1 n M
15
预备知识：一、统计数学知识
❖ 当各分量独立时：
n (s)
K s, s , , s n 1 ,n 2 , ,n M
n 1 n 2 12
n Ms1 s2 sM 0 M
n n 1 n M
只有 n 1 ,n 2 , ,n M 中一个非零，其他皆为零时， Kn1,n2, ,nM
❖ 2、要解出Y，需要对Y各分量是否独立进行判断。 确切地说，需要找到某种判断函数G，使Y个分量 独立时G(Y)达到最大或最小值。
❖ 3、由于独立判据函数G的不同，以及求解Y的步 骤不同，有不同的独立分量分析法。
10
问题的提出：4、独立分量分析法的历史与应用
❖历史：
❖是盲信号处理的一种，是90年代后期发展
❖应用： ❖信号处理
码分多址通信，雷达信号分选等
❖生物医学
心电图(胎儿)，脑电图等
❖图像处理
图像压缩，数字识别，图像融合等
❖其他
地震勘探、遥感遥测等，总之包含了信息、通讯、 生命、材料、电力、机械、化学等各个学科
12
目录
目录 ❖问题的提出 ❖预备知识 一、统计数学知识 二、信息论基本知识 三、概率密度函数的展开 四、信号通过线性系统信息特征的变化 ❖独立分量法介绍 ❖总结与展望
(s)= (si)
i=1
M
(s)= (si) i =1
14
预备知识：一、统计数学知识
3、矩
n阶矩：单 变 量
mndnds(ns) s0 E(xn)
多 变 量
（联合矩）
M n 1 ,n 2 ,
,n M s1 n 1 , s 2 n n 2 ,(s), sM n Ms1 s2 sM 0
解混
y 1(t) y 2(t)
信道2
s 3(t)
矩阵
x 3(t)
信道3
矩阵
y 3(t)
A
B
sM (t)
信道n
xM (t)
yM (t)
8
问题的提出：3、独立分量分析法的基本问题
9
问题的提出：3、独立分量分析法的基本问题
❖几点说明：
❖ 1、解出来的Y只要求各分量独立，因而解不是唯 一的，可以有相移、次序颠倒、幅值变化等
二、信号与随机变量间的关系 问题：随机变量X在实际中的体现？ 答：独立重复试验，得到试验样本集{Xi}。
由这组数据样本点可以估计出随机变量 的各阶矩，近而估计出pdf等全部统计信息。
5
问题的提出：2、信号与随机变量间的关系
对一个信号X(t)：
独立重复试验 ———— 抽样ti， i=1,2, …N
样本集
13
预备知识：一、统计数学知识
❖1、特征函数
单变量
多变量
()p (x )ej xd x E [ej x] (ω )p (x )ejω T x d xE [ejω T x]
替换
s j ( s ) ( s )
❖2、第二特征函数
单变量
(s)log(s)
多变量
(s)log(s)
各分量独立时：
M
3
问题的提出：1、时域雷达信号分选
一、时域雷达信号分选
数学模型：时间、幅度图像
雷达信号1 雷达信号2
雷达信号3 交叠信号 交 叠 信 号 2 ：
P R I 变 换 ： 单 组 混 叠 信 号 且 只 考 虑 T O A 独 立 分 量 分 析 ： 多 组 同 步 混 叠 信 号
4
问题的提出：2、信号与随机变量间的关系
独立分量分析法
报告人：巫书航 导师：山秀明 苏威积
1
目录
目录 ❖问题的提出 ❖数学准备 ❖独立分量法具体算法 ❖总结与展望
2
目录
目录 ❖问题的提出 一、时域雷达信号分选 二、信号与随机变量间的关系 三、独立分量分析法(ICA)的基本问题 四、独立分量分析法(ICA)的历史与应用 ❖数学准备 ❖独立分量法具体算法 ❖总结与展望