独立分量分析及其应用研究

独立分量分析及其应用研究

维普资讯

《现代电子技术) 0 8年第 3期总第 2 6期 20 6

通信与信息技术司

独立分量分析及其应用研究梁端丹，韩政，家甲郝(安通信学院西陕西西安 700) 1 1 6

摘要：立分量分析是近年来兴起的一种高效的信号处理方法，要解决的问题是从观测到的混合信号中分离或提独主取各个源信号。简要介绍了独立分量分析的模型、学原理等基本问题，细分析了解决独立分量分析问题的优化准则及数详对应的算法，后介绍了独立分离分析的主要应用领域，对独立分量分析问题的研究方向进行了展望。最并关键词：源分离；立分量分析；化准则；盲独优高阶统计；息论信

中图分类号： N9 1 T 1

文献标识码： A

文章编号：04— 7 X(0 8 0 0 7— 4 10 3 3 20 ) 3— 1 0

Re e r h o nd p n e tCo p n n n l ss a t p i a i n s a c n I e e d n m o e tA a y i nd Is Ap lc toLI ANG a d n。 Du n a HAN h n HAO ij Z e g, Jai a( n Co Xi mm u ia in I si t, ia, 1 1 6 Chn ) a nc t n tt e X n 7 0 0, i a o u

A s r c;n e e d n mp n n a y i( CA) i a fii n e h o o y d v l p d i e e t y a si i n lp o e sn b ta t I d p n e tCo o e tAn l ss I s n e fce tt c n l g e eo e n r s n e r n sg a r c s igfed. i l Thi e ho c n ep r t xt a t unk w n our e r m her m i ur s n h s a r h un m e a m od 1an s m t d a s a a e or e r c no s c s f o t i xt e、I t i p pe,t e f da nt 1 e d m a he a ia rn pl r i r du e t t m tc 1p ici e a e nt o c d, he optm ie rt ra n r l td l ihm s o I r na y e i z d c ie i a d e a e agort f r CA a e a l z

d.Fi ly, h p nal t e pa er

p e e t h p l a i n a d f t r e e o me to CA. r s n st e a p i t n u u e d v l p n fI c oKe ywo ds:bln s ur e s pa a i r id o c e r ton; i de e e c m p e a l i op i z d c ie i hi er or r s a itc n p nd nt o on nt nayss; tmie rt ra; gh de t ts is; i f m a i he e i n or t0n t or tc

1引言

I A是 B S的一种方法，是解决 BS C S但 S问题还有其他的理论方法，非线性主分量分析、疏分量分析如稀(C等， S A)不局限于 I CA。

盲源分离 ( l dS uc e a ain, S )在源信号 B i o reS p rt n o BS是和传输通道参数未知的情况下，据输入源信号的统计特根性，由观测信号恢复出源信号的过程。当源信号各个成仅分具有独立性时，过程又称为独立分量分析 (n p n e t此 I e e d n Co o e tAn lss I A) mp n n ay i,C。所谓的“”是指源信号的盲，特性及传输通道的特性都是未知的。

2 2 I A的数学描述及模型 . CI A的原理框图如图 1所示。 C

盲信号分离的概念最早提出 2 O世纪 8 O年代，后从随9 O年代开始，信号分离技术广泛的应用于无线通信、盲雷达、纳、声图像、音、语医学等领域，速成为国内外信号处迅理研究的热点。图 l I CA原理框图

基本的线性瞬时混合 I A模型可以描述为： CX— AS+ n ( ) 1

2 I A的基本理论概述 C2 1 B S与 I的关系 . S CA

其中 s一[ ,, ] s()… S ()是未知的 N维源信号向量， x=

[ ,, ()是 M维观测信号向量， z ()… z ] n一[ () ,

BS S是指仅从观测的混合信号中分离出各个原始信

(, (] …, 是 M维加性噪声向量， ) ) A是未知的混合矩阵，测信号 x是由未知信源 s的瞬时线性组合。观

号，

I A技术主要利用了源信号统计独立等容易满足而 C的先验条件，了解决 BS为 S问题而发展起来的。在源信号

I A的目标就是寻找一个分离矩阵 w, x经过变换 C使后得到的新矢量 Y— F ,, ()的各分量尽可能 y ()… y ]

相互独立时， S B S和 I A具有相同的模型，实际情况下， C但两者目标上稍有不同。B S的目标是分离出源信号， S即使

的独立。: WX为待求的分离信号向量，就是源信号 s Y也的估计值。 2 3 I A的前提假设 . C由于源信号和混合矩阵的先验知识未知，只有观测信

他们并不完全互相独立； IA的目标则是寻找某种变而 C换，输出的各信号之间尽可能的独立。使

收稿日期： 0 7一O 20 8—1 O

1 7

独立分量分析及其应用研究

维普资讯

梁端丹等：独立分量分析及其应用研究号的信息可以利用，无任何前提条件，分离问题就会若盲多解，故需要对源信号和混合矩阵附加一些基本的假设和约束条件]: 量的混合信号趋近于高斯分布。故在 I A模型中若干个 C

独立源信号的混合信号比任何一个源信号都应该更接近高斯分布。当所有分离出来的信号的非高斯性都达到最大时，个分离出的信号也就越接近不同的单个源信号。每 通常利用峰度和负熵作为非高斯性测度。( )峰度 ( ro i) 1 Ku tss峰度是随机变量的四阶累积量，定义如下：其

( )观测信号数目 M不小于源信号数目N,了方便 1为起见， M— N,取即混合矩阵 A为满秩。

()源信号 S的各个分量之间相互统计独立。 2 ()源信号的各分量最多只允许有一个是高斯分布 3的，这是由于多个高斯信号的线性混合仍然服从高斯分布，不可分离。24 I . CA的不确定性

Kuty r( )一 El一 3 2] y] [ E

() 4

对于一个高斯变量 Y其四阶累积量等于 3 2 y]峰， E E,度为零。绝大多数非高斯信号的峰度为一个非零值，度峰的绝对值越大，明非高斯性越强。说对应的目标函数

简化定义为：n

根据 IA的模型实现原理，要源信号精确恢复， C若应当 W— A,在“”的范畴里，合矩阵 A不是完全辨~但盲混识的， C算法求解的过程寻找的解混矩阵不是 A的求逆 IA

过程， y只是 S的近似值，在着一些不确定性，文献[]存在 2中得到证明：

() : E 一 E y]l 1=

() 5

对应的优化算法一般采用随机梯度算法，目标函数对最大化 (正峰度源 )者最小化 (峰度源 )求得分离对或负可矩阵 w。( )负熵 ( g nr p ) 2 Ne e to y

( )幅度：离后的信号在幅度上与源信号存在一定 1分的比例关系。

( )次序：离信号与源信号的顺序可能不一致。 2分

在许多应用背景下，号的大多数信息都是包含在信信号的波形上而不是信号的幅度和次序中。另外，然事先虽对源信号了解不多，在有些情况下，离出独立的源信但分

由信息论知识得：方差相同的情况下，斯变量具在高有最大熵。而负熵的定义为：J )一 H ( G )一 H ( ( y ) () 6

号之后可根据实际进行判别， I A分离中这两个不确故 C定性是可以接受的。

其中 Y一与 Y有相同的协方差矩阵的高斯随机变量。。为具

负熵的值总是非负的，熵越大，非高斯性越强，负其当且仅当 Y为高斯变量时，值为零。可通过最大化负熵的方其故法寻找一种变换，变换后 Y的各分量尽可能独立。熵使负的计算比较困难，在实际应用中通常利用非线性函数 G( )对负熵进行近似，到对应的目标函数为：·得

3 I A的基本算法 C3 1 I算法的基本原理 . CA从数学角度来分析随机矢量的独立性定义为假设原

始信号是独立同分布的非高斯信号，足下式：满

J y]。 E G(一 E G()} E C{[ y)[ v 3

() 7

P()一 l P( ) s I s i

() 2

F sI算法口就是一种基于负熵最大化的快速定 a tCA

即其联合密度函数是各个分量概率密度函数之积，也可以采用他们的

互信息量 Iz ( )来表达：

点 IA算法，具有计算简单、敛速度快等优点，实际 C他收在中得到成功应用。

I ) zl— (一I( o z )g一

d z

( 3 )

3 2 2基于信息论的测度 .. ( )信息最大化 1用信息最大化原理进行盲源分离就是最大化输出熵，又称最大熵 ( xmu Enr p, ) Ma i m to y ME。

Ⅱ Pz ) (1

当且仅当各个分量相互独立时为零。 I A算法的基木原理就是依据等独立性度量的准则 C

在信息论中，机变量熵就是给定观察变量的信息随

来建立目标函数，分离出的独立分量最大程度的逼近各使个源信号。不同 I A的算法研究主要体现在独立性度量 C准则的选取和对目标函数的优化准则的不同上。可把 I CA算法表述为： I A算法一分离准则+优化算法 C这两方面构成了 I理论的核心， CA目标函数决定算

度。对具有概率密度为 ( )的随机向量 Y他的微分熵，定为：r

H( )一一 I lg d ( )o ( ) yJ

() 8

当 Y的各个分量之间相互独立时， )达到最大， H(故

可以用输出熵 H( )衡量恢复信号 Y分量之间的独立 来各性。避免简单的最大化使 H( )散至无穷，际的 I—为 发实 n fm x法中，常是最大化分离信号 Y经过非线性结点 oa算通输出 r的熵。因此，目标函数定义为：( )一 H ( )一 H ( ) W r g( )一 H ( Wx) g( ) () 9

法的统计性质，渐进方差、棒性和一致性；化算法决如鲁优定算法的收敛速度和计算的稳定性。

3 2 I A的独立性测度准则及优化算法 . C3 2 1基于非高斯性的测度方法 . .由统计理论中的中心极限定律可知，个独立随机变多】 8

对应的优化算法为 I fma no x算法。

独立分量分析及其应用研究

维普资讯

《代电子技术￣ 0 8年第 3期总第 2 6期现 20 6 () 2互信息最小( nmu ta Ifr t n MMI Mii m Muul nomai, o )随机向量各分量之间的互信息定义为其边缘熵之和

与联合熵之差，等价于联合概率密度和各分量边缘概率密度乘积之间的 Kula k—L ilr度。 l e b ebe散 当恢复源信号 Y的各分量相互独立时， p )一有 (P,( ) (。…P ( )其中 p ), p, ) , (为。

通信与信息技术络算法，常称为 H—算法。 H—算法没有明确的误差通 J J函数，该误差函数全局最小化就可以得到问题的解。使 ( )显累积量算法[ 2 6 以简单的高阶统计峰度作为代价函数，用随机梯度利算法来得到分离阵 w的自适应训练算法。 J D[是一种显累积量高阶统计算法，是一种数 A E7 他值稳定的矩阵代数特征分解 I A方法。 C 4 I A技术的应用 C

Y的联合概率密度

函数， )为 Y分量的边缘概率密度函数。K l ak— P( ul c bL ilr度定义如下： ebe散(一 K )—

L=f()n ( I ) pt l—

d () y 1 o

Ⅱ P (), ,可得：(一 )l 1:

I A作为信息处理领域热门课题之一，经在移动通 C已

信、音图像处理、列处理、震勘探、物医学工程等语阵地生领域得到广泛应用。粗略的列举几方面如下[ 8:

H ( y )一 H ( )

( 1 1)

( )生物医学信号处理领域 1在生物医学领域，CA可以应用于心电图 ( CG)电 I E脑图( E信号分离、觉信号分析、能磁共振图像 ( E G)听功 FM—

H(, 分别为边缘熵和联合熵。 ) H( )当且仅当 Y的各分量统计独立的时候互信息 I为零。即互信息越小，分量之间 ()各的独立性越强。基于最小输出互信息的目标函数为：( w)一 I )一 (f 1=

R )析等。如利用 I A算法抽取脑电信号和线性分解 I分 C脑电信号的人为因素如噪声、眼、电噪声等成分；究眨心研FMRI据的任务相关的人脑活动；理孕妇身上测到的数处

H( H( )一 1g l e l ( 2 y)一 z o d t W 1 )

对应的优化算法为 MMI法。算( )最大似然估计准则 ( xmu Lieio dE t—

3 Ma i m k l o si h mato M IE) i n,

心电信号，别得到孕妇自己和胎儿的心电信号等。分( )阵列信号处理领域 2

在阵列传感器中，传感器接收到混合信号，信号各源和混合特性未知，典型的盲分离应用问题。在移动通信是

ML E是用己获得的观测样本 z来估计样本真实概率密度 P( )给定参数向量，过某种准则获得估计密度 z。通

阵列天线处理、洋声纳探测等方面的作用越来越重要。海 如军事通信中，统的主动雷达为探测目标需发出电波信传号，容易暴露自己，利用 I的原理发展被动“很而 CA雷达”,

度 b x充分逼近真实密度 p z。以 K l ak e lr (,) () ul e—L i e b b散度作为优化准则来测度估计的概率密度 ( 与真实 z,)概率密度 ( )之间的距离。这一准则可用对数形式的似 z然函数表示：

只接收信号不发出任何信号即可探测到目标，应用已得此到各国的广泛重视。 ( )声信号处理领域 3

(,)一 wf 1一

1gp ( f ) 1g l e W ( 3 o Wr z;+ o d t l 1 )

声信号盲分离是 I A的一个应用的重要领域，语 C对

其中 P为未知独立分量 S的概率密度。 对应的优化算法 ML E的目标函数与 Ifma算法有 no x类似的形式，同之处是 ML的目标函数出发点是已知不 E

音增强、音识别等具有重要的意义。如在移动通信中，语 IA技术能够有效地消除噪声、制干扰、强语音，高 C抑增提通信质量；过 I A方法对车辆行驶时产生的声音信号通 C进行分离，车辆个数与行车方向进行估计，现车辆的对实

观测样本，要求 P必须估计准确。他 上述的 I fma ( no x ME) MMI ML三种算法在本质，, E上没有区别， e r te和 P ra Cad s[己经指出 I - P al tr mu a r, r o o5 n

简单分类；工业领域，据机械运动时发出一种固有的在根

信号，带机械本身的结构信息和运动状态信息，携通过对此机械信号进行分

析，对设备的运动状态及故障进行在线监测和预报等。 ( )图像处理领域 4 I可以用于二维数据，图像滤波、 CA如图像特征提取、 图像增强、脸监测和识别、星遥感图像的恢复重建分人卫

fma o x和 ML E算法是等价的。 3 2 3基于高阶统计的方法 . .对于高斯信号，相关和独立是等价的，在二阶统不可计的基础上进行分析，是对于非高斯信号来说，立是但独比不相关更强的条件，求在包含二阶统计在内的所有更要高阶统计上相互独立，故本文试图寻求高阶统计的解决方案。基于高阶统计的 I A算法，照准则函数或优化算法 C按中是否明确含有高阶累积量，可以分为显累积量法和隐又累积量法。

类等。主要任务是从被污染的图像中恢复出图像原面目， 有效地消除获取图片时由相机抖动传输噪声叠加等原因造成的图像质量问题。

( )隐累积量算法[ 1 6

5 I A技术的发展趋势 C虽然 I A技术及近年来已获得极大发展， C但仍有许1 9

较典型的是由 Heal和 J t n较早提出的神经网 rut ut e

独立分量分析及其应用研究

维普资讯

梁端丹等：分量分析及其血用研究独立多问题有待进一步的研究和解决[] 8。 ( )带噪混合信号 I A问题。实际环境中，合声信 1 C混号不仅包括多个声源的声音，要考虑环境噪声的影响，还

会对信息处理以及神经网络的发展起到积极的促进作用。参考文献

尽管目前有一些算法在含噪情况下有良好的性能，由于但

[] Hyaie Kah n nJ O aE Id p n etC mp n n 1 vr n A, ru e, j . n e edn o o et nAn l i M]J h l& S n,n. 2 0 . ay s s[ .o nWi y e o sIc,0 1 [] C m m P Idp n etC mp n n n ls: Ne o— 2 o o . n e ed n o o etA ayi A w C n s cp[] Sg a Po es g 1 9,6 3:8—3 4 etJ. in l rcsi,9 4 3 () 2 7 1. n [] Hyaie . at ie 3 v r nA A F s Fx

d—pit g r h o n ee d n on oi m frId p n— Al t etC mp n n ayi[] Ne rlC mp tt n 1 9, n o o etAn l s J . ua o uai, 9 7 7 s o( ): 8 1 4 3 9 1 4 2- 8 .

噪声的种类繁多，包括非高斯、有色、乘性、脉冲等，在此情形下实现混合信号的分离，提取各源声信号是困难的。( )欠定 ( d r—C mpee I问题。大多数的 2 Un e o lt ) CA

B S I A研究都是假设传感器数大于源信号数目的情况。 S, C 而如何求解传感器数目小于源信号数目的欠定问题是比较困难的。在 E G处理中就存在此情况，在工程实际 E且中，信号个数可能会随时间动态变化，时如何确定源源此信号个数及如何估计源信号都是亟待解决的问题。 ()全局收敛性问题。由于声信号分离是一个时空 3域上的问题，此存在着空间上的盲分离和时域上的反卷因积双重任务，得算法在回响环境中很容易陷入局部最小使

[] B lA J Sjo s i . fr ain— xmi t nAp 4 e ,en w k J AnI om t l T n o ma i z i — ao poc o Bid Sp rt n a d Bid Deo v lt n[] rah t l eaai n l cnoui n o n o J.Ne r l mp t t n 1 9 7 6: 2 u a Co u a i, 9 5, ( ) 1 1 9—1 1 9 o 5.

[] C ro oJF Ifm xa d Ma i m ieh o o l d 5 ad s . no a n xmu Lk l o dfrBi i no re Sp rt S uc e aain[] E E Sg a rcsig e es o J .I E in l oes L t r, P n t1 9 4 4:1 9 7, ( ) 1 2—1 4 1.

值，致算法性能下降。导 ()混合系统是时变的。当信源是运动状态时，号 4信混合系统就是一个时变系统。而目前的算法是针对非时变系统设计，得到实用的盲分离算法须设计出能够要必跟踪时变的自适应算法。 6结语·

[] Hy aie Oj E Idp n etC mp nn ayi b 6 v

r n A, a . n e ed n o o etAn l s y n s Geea No l erHeba l eL ann lsJ. inl nrl ni a b i n n— i eri Rue[] Sg a k gPr c s i g, 9 8, 4 3 3 1—3 3 o e sn 1 9 1 ( ): 0 1.

[] C roo JF, uo mi BidB a om n o o 7 ad s S lu a A. l emfr ig frN n— o e n Ga si inl[] E Po .一 F 9 3 4 6: us n Sg as J .I E re a,1 9,10( )36 - 70. 2 3

[]张贤达，铮.信号分离[]电子学报，0 1 2 ( 2: 8保盲 J. 2 0 . 9 1A)1 76 - 6 1 77l _

独立分量分析在信息处理诸多领域都显示出独特的 优势，现出诱人的发展前景，得我们对其理论和算法展值进一步研究和完善。将理论上的突破与实际应用相结合，

[]马建仓，奕龙，海洋.信号处理[ . E:防工业 9牛陈盲 M] j京国出版社，0 6 20.

作者简介粱端丹女， 9 2年出生，北大悟人，士研究生。主要研究方向为智能信息处理。 18湖硕韩政男， 9 5年出生，南安阳人， 16河副教授，究生导师。主要研究方向为通信与信息系统、能信息处理。研智

(接第 1上 6页 )

参

考

文

献

较敏感，主要体现在缝隙宽度叫上，获得比较理想的设要计，采用精密加工，尽可能提高精度。需并

[]康行健 .线原理与设计[ . E:防工业出版社，95 1天 M] j京国 19. []易大方，朗，文秉 .厚对矩形波导窄边斜缝导纳特性 2任汪壁的影响[]无线电工程，9 2 2 () 9 6 J. 1 9,22:—1 . [] E l tR S T e D s n o ma ltAr y[] I E 3 lo . h ei fS l So r s J . E E i g l aTr n . t n a o a . 1 7, a s An e n sPr p g, 9 8 Ap一2 ( ) 2 4—2 8 6 2:1 1.

[]张仲西 .效率低副瓣波导窄边缝隙阵的设计[]雷达与 4高 J.导航，9 3 4 4 1 8 ( ):0—4 . 8

[] Jh

on,m rkw, kt n oA a s f e a— 5 onCY ugJ Hi a aMaooA d . nl i o c n i o ys R tg l a e n d .￣ g lt AraⅧ t ii ua W v g e F l e So r y r i h F nt W 1Thc n s e i es k

[]IE r s A tna rpg, 0,53:1— 1. J.E ETa . nens oa.2 75 ()82 89 n P 0[]肖科， 6田立松 .针激励矩形波导的矩量法分析[]现代电探 J.图 6线阵实物照片

子技术，0 6 2 ( ) 1O—l2 2 0,9 2: 1 1.

作者简介隋立山男，9 1年出生， 18新疆哈密人，现就读国防科技大学硕士研究生。主要从事微波天线方面的研究。

2 0

本文来源：https://www.bwwdw.com/article/eb11.html