高频天波雷达可以利用电离层的折射和散射机理完成对超远距离目标超视距探测,是用于早期预警最有效的手段。然而,受到电离层多模传播的影响,目标常常被展宽的杂波谱覆盖导致难以检测。目前MIMO体制雷达被认为是解决电离层多模传播的有效手段,在各国展开了广泛研究。首先,本文从MIMO雷达数学模型入手解释了引入MIMO体制抑制电离层多模干扰的必要性,然后根据最大信干噪比准则得到了联合发射接收自适应波束形成器公式。其次,根据干扰的类型,自适应联合发射接收波束形成器可以分为旁瓣干扰抑制和主瓣干扰抑制两个部分来研究。在旁瓣干扰抑制部分直接借鉴了MVDR波束形成算法,并根据其存在的问题研究了基于SVM的优化算法和基于空间谱估计的协方差矩阵重构算法等改进方法。在主瓣干扰抑制部分研究了阻塞矩阵法,并提出了基于空间谱估计的联合发射接收自适应波束形成算法。该算法可以有效地抑制因离去方向或到达方向有一定差异而引起的电离层多模传播干扰。最后,本文还对阵列中存在互耦效应时的MUSIC改进算法展开了研究。针对均匀线阵的情况,提出了虚拟-空间平滑MUSIC互耦校正算法。该算法不仅可以适应不同信噪比下的目标方向估计,还能够对相干源信号进行估计。同时该算法还能够实现单快拍下的目标方向估计,提高了MUSIC算法在非理想条件下的方向估计性能。