当前位置:文档之家› 论文阅读笔记

论文阅读笔记

独立分量分析的研究和脑电中心电干扰的消除独立分量分析是在盲信号处理, 特别是盲信源分离发展起来的。

盲信源分离( Blind Source Separation, BSS) 是指在信号的理论模型和源信号无法精确获知的情况下, 如何从混迭信号( 观测信号) 中分离出各源信号的过程。

独立分量分析( Independent Component Analysis, ICA) 的基本含义是将多道观测信号按照统计独立的原则通过优化算法分解为若干独立成分, 进行ICA 的前提条件是各源信号为彼此统计独立的非高斯信号。

ICA 不仅实现了信号的去相关( 二阶统计独立) , 而且要求各高阶统计量独立。

独立分量分析的目标是寻找一个线性但不一定正交的坐标系来表示多维数据。

独立分量分析实际上是一种优化问题。

即如何使得分离出的各独立分量逼近各源信号。

ICA 包括两个主要方面: 优化判据( 目标或代价函数) 和寻优算法。

和其它盲信源分离算法相比, 该算法的优点在于迭代过程中不需要计算信号的高阶统计量,收敛速度快。

算法使用一种新的去冗余方法, 在提取一分量后。

将其从混迭信号中去除, 能逐一提取各独立分量。

(该算法能有效的去除心电干扰和低频干扰)。

基于负熵极大的独立分量分析方法
ICA算法的目的就是在混合矩阵A和源信号S未知的情况下, 仅利用源信号间是统计独立的这一假设, 寻找一个线性变换矩阵W( 又称解混矩阵) 对X进行线性变换, 得n维输出向量Y, 使Y尽可能地逼近源信号成为对独立分量S的一个估计。

ICA 模型中, 除了要求信号源S相互独立外, 还有其他几个限制条件:1.
在源信号s
1, s
2
,…, s
m
中至多有一个是高斯分布的。

因为高斯信号混合后仍是
高斯信号, 而分离高斯信号是一个病态问题。

2.观测信号数目要大于等于源信号数目, 即n≥m. 因为当n<m 时矩阵A是不可逆的, 此时源信号的分离是不可能的或者是很困难的, 通常取n=m。

3.混合矩阵A 必须是列满秩的, 通常设A为非奇异的方阵。

ICA算法原理:根据ICA模型, 寻找W 使Y= W T X= W T AS= M T S, 若M中每行每列
只有一个元素, 则Y=S。

而y
i 是源信号s
i
的线性组合,根据中心极限定理, y
i
的高
斯性比s
i 的高斯性大,当y
i
= s
i
时( 即y
i
是其中一个独立分量时) 高斯性达到局部
最小, 显然此时M 中每一行每一列只有一个非零元素, 问题就等价于寻找W 使W T X 的非高斯性最大。

负熵是一种有效的可用来度量随机变量非高斯性的目标函数。

熵用来描述随机变量的不确定性。

熵总是非负的,对于确定出现的事件或永远都不会出现的事件熵为零。

一般说来, 随机变量的熵越大, 其不确定性越大, 对于等方差的随机变量, 当其满足高斯分布时熵最大( 平均功率受限最大熵定理)。

负熵的值总是非负的, 只有当x 为高斯分布时, 负熵为零。

同时, 负熵还有一个重要的性质: 对所有可逆线性变换, 负熵的值保持不变。

负熵最大化的FastICA心电消噪研究
独立分量分析(Independent Component Analysis, ICA)是一种解构多维观测信号,获取统计独立成分(源信号)的信号处理技术。

独立分量分析是一种信源分解方法,是解决盲源分离(Blind Source Separation, BSS)问题的一个有效手段。

它的基本思路是应用合理的判据,经过优化迭代算法将混合观测数据分解成若干独立来源成分。

从数学上讲,ICA通过实现对非正交变量数据的线性坐标进行变换,使得新的变量之间尽可能的独立。

从线性空间及线性变换的角度出发,ICA要解决的问题是从混合的观测信号得到相互独立的非高斯信号源信号,而混合信号其本身正是作为基信号的源信号的一种线性表示。

ICA理论模型的研究是根据分离数据不同的混合特点划分的,最基本的模型就是理想情况下的基本线性ICA模型的研究。

从原理上来说,算法的研究都是利用了源信号的独立性和非高斯性,可分为基于统计学的代数方法和基于信息论准则的迭代估计方法两大类。

各国学者提出了诸如快速独立分量分析(FastICA)、最大信息(Informax)判据算法、高阶累积量方法、最大似然估计算法等一系列估计算法。

ICA的方法:ICA的预处理:1) 数据的去均值;去均值的过程也可以称为中心化。

2)数据的白化;白化过程本身也是一个线性变换的过程,这个过程对于去均值后的观测信号较容易实现,并且这种变换的意义就在于新的向量之间的相关性被去除,同时变换矩阵V的协方差矩阵为E(VV T)=1,为空间色素白色或简称为白色。

(白化的意义:通过白化预处理大大减小了 ICA问题的复杂度。

白化预
处理可以使得待求的混合矩阵成为正交矩阵,从而大大减小了待估参数的个数。

)从广义的角度上,可以把所有的ICA算法的一个全局表示为:
ICA算法=目标函数(分离准则)+优化算法。

ICA的目标函数:目标函数是一种泛函,它是随机变量概率密度函数到实数集的一种映射,目标函数的取值与随机变量的独立性密切相关,它的极值体现的是独立性的最大或最小。

从目标函数的角度出发此划分得到的ICA算法主要包括最小互信量(minimum mutual information, MMI)法:最大熵(maximum entropy, ME)法以及最大似然估计(maximum likelihood estimation, MLE)法三大类。

①最大非高斯性;②非线性相关性;③高阶累积量;○4互信息量最小化目标函数;○5信息传输最大化或负熵最大化目标函数。

ICA优化算法:常用的学习算法有随机梯度法(stochastic gradient)、自然梯度法(natural gradient)、固定点迭代法。

FastICA算法,又称固定点算法,该方法依托于非高斯性最大化原理,通过最大化负熵目标函数,使用固定点迭代理论寻找W T x的非高斯性最大值从而达到分离信号的最佳估计。

该算法有两种求解独立成分的方法:一种是对分离矩阵的向量逐一单独更新,称为非对称方法;另一种是对整个分离矩阵全局更新,称为对称方法。

FastICA算法去噪的流程可包括为:数据矩阵的构造、数据白化处理、独立成分提取,最终实现噪声信号和有用信号的分离。

相关主题