通常情况下,阵列波达方向（DOA）估计是利用传感器接收数据来估计某一时刻的信源角度,其在移动通信等众多领域中均有着重要的应用。而实际监测场景内,检测到的信源通常是移动的,因而需要我们进行实时的DOA跟踪。而目前多数的DOA跟踪算法都是使用多个连续快拍数据得协方差矩阵,且接收到的信号受脉冲噪声的影响难以准确估计。因此本文从单快拍量测和声矢量脉冲噪声模型入手将随机有限集理论运用到时变DOA跟踪领域,该方法的运用对于时变DOA跟踪问题具有重要研究意义。因此,本论文从两个角度将随机有限集理论用于DOA跟踪问题中,研究内容具体如下:1根据声矢量阵列脉冲下的多机动源DOA的跟踪问题,提出分数低阶矩的交互式多模型多伯努利滤波算法。该算法把交互多模型引入到多伯努利滤波器多机动源预测过程中,并利用α稳定分布对脉冲噪声进行建模,通过分数低阶矩得到MUSIC伪似然函数,并通过粒子滤波实现。通过仿真可知,该算法能够有效实现脉冲噪声下多机动目标的跟踪,并且能有效跟踪目标状态和估计目标数目。2对于阵列信号处理中单快拍情况下的多源时变DOA跟踪问题,提出关于单快拍空间平滑的多伯努利DOA跟踪算法。该算法首先利用多伯努利随机有限集（RFS）描述状态过程的随机性,并直接利用从传感器阵列中获得单快拍量测。其次,采用空间平滑技术对单快拍量测进行处理,得到伪协方差矩阵,并进行奇异值分解,用MUSIC谱函数作为伪似然函数进行多伯努利DOA跟踪。通过仿真可知,该算法能实时有效跟踪单快拍量测下的时变信源DOA状态,且能准确估计信源个数。3针对多源时变DOA跟踪问题,提出了一种叠加量测多伯努利（Me MBer）滤波器的多源DOA跟踪算法。通常多源DOA与传感器阵列接收数据间的关系可以用一般的叠加量测模型表示,为了避免信息丢失,该算法在多伯努利滤波过程中直接利用传感器阵列接收到的叠加量测数据。由于叠加量测是监测场景中未知数量的时变目标所产生信号的总和,常规的多伯努利滤波算法难以得到该量测条件下似然函数的解析解。为了克服此困难,本文推导了一种叠加量测多伯努利滤波器的多源DOA跟踪算法,该算法通过将多伯努利随机有限集的每个伯努利分量定义成一个条件PHD,通过定义的条件PHD推导出多伯努利条件PHD更新的伪似然函数,完成多伯努利滤波器参数集的更新,并利用辅助粒子滤波实现Me MBer DOA跟踪。该算法的优点是对量测信息不需要做任何处理并且在跟踪时不用考虑到信号源个数,直接利用叠加量测多伯努利滤波算法对信号源进行实时跟踪,仿真结果表明该算法的有效性。