多目标跟踪技术是信息融合领域的重要研究内容之一,已广泛应用于空中侦察与预警、导弹防御、战场监视等军事领域,以及计算机视觉、空中导航、交通管制等民用领域。然而,随着现代高分辨率传感器的快速发展以及跟踪场景的日益复杂化,所获得的目标量测信息更加丰富,致使多目标跟踪中的数据关联问题变得更加复杂。随机有限集（Random Finite Set,RFS）理论为多目标跟踪提供了新的发展契机,但最新的RFS滤波算法也存在数据关联问题,迫切需要解决。近年来,概率图模型用于解决多目标跟踪问题已成为人们关注的热点,概率图模型具有较强的推理和学习能力,能够处理大规模系统中的推理问题。由于多目标跟踪中的数据关联可以建模为概率图模型,通过求解图模型能够高效地解决数据关联问题,同时概率图模型也可以用于提高RFS滤波的计算效率,是一种解决复杂环境下多目标跟踪问题的新方法。本论文以概率图模型理论为基础,深入研究了多扩展目标数据关联算法和高效稳定的RFS滤波框架,论文的主要研究成果如下:1.研究了多扩展目标跟踪中关联变量边缘分布难以求解的问题。相比于点目标,扩展目标可产生更多的量测,致使多扩展目标跟踪中的数据关联问题更加复杂。本文提出一种基于航迹概率图模型的多扩展目标数据关联算法。该算法通过航迹概率图模型描述多扩展目标数据关联问题,利用置信度传播算法求解图模型,并通过构造简化的量测单元集合来降低计算复杂度,有效解决了多扩展目标跟踪中的数据关联问题。仿真实验结果表明,该算法的跟踪精度和计算效率均优于传统的数据关联算法。2.研究了航迹概率图模型中扩展目标关联变量的耦合问题,以及扩展状态估计不准确的问题。航迹概率图模型中,由于所有扩展目标关联变量节点之间通过因子节点连通,导致该算法的计算复杂度与量测单元数的平方呈正比关系,当量测单元较多时,算法的计算复杂度较高,只适应于杂波量测较少,且对计算效率的要求较高的跟踪场景。此外,航迹概率图模型只考虑了与扩展目标关联的量测单元之间的一致性,当扩展目标关联到量测较少的量测单元时,虽然满足一致性,但会导致扩展目标关联到的量测过少。本文提出一种基于混合概率图模型的多扩展目标数据关联算法。该算法通过引入量测关联变量避免了扩展目标关联变量的耦合问题,同时根据预测信息改进量测单元集合,提高了扩展状态的估计精度。仿真实验结果表明,该算法的跟踪精度、稳定性和计算效率均优于基于航迹概率图模型的多扩展目标数据关联算法。3.研究了泊松多伯努利（Poisson Mult-Bernoulli,PMB）滤波的目标衍生问题。当有目标衍生时,PMB滤波会将衍生目标当作新生目标处理,忽略了存活目标的信息,导致跟踪精度下降。本文提出一种基于衍生模型的PMB滤波,根据泊松点过程对衍生目标进行建模,推导了基于衍生模型的PMB滤波框架,并将该衍生模型应用于两种PMB滤波。仿真实验结果表明,基于衍生模型的PMB滤波能够有效解决目标衍生问题。4.研究了量测边缘多伯努利泊松（Measurement-oriented Marginal Me MBer/Poisson,MOMB/P）滤波中漏检边缘分布不准确的问题。由于MOMB/P滤波的漏检假设没有考虑量测信息,当目标的预测状态附近存在量测时,漏检假设的权重仍然较大,此时关联变量的边缘分布估计不准确,导致目标势估计有偏差。本文提出一种修正漏检概率的MOMB/P滤波,该算法通过定义漏检程度参数,在漏检假设中引入量测信息,从而修正漏检边缘分布。仿真实验结果表明,改进的MOMB/P滤波在目标分散时的跟踪精度高于MOMB/P滤波。