多输入多输出(MIMO)检测技术发展到今天已经相当成熟了。Massive MIMO技术作为传统 MIMO 技术的扩展已经成为 5G(the 5th Generation mobile communication technology)的核心技术之一,其具有更高的频谱效率和信道容量。然而,在Massive MIMO系统中存在着很多问题,由于众多的天线数目,接收信号复杂,高维度的信道矩阵等,对接收端的信号检测算法提出了更高的要求,希望以较低的复杂度实现良好的性能。基于这种背景,本文重点对适用于Massive MIMO信号检测的主动禁忌搜索(Reactive Tabu Search,RTS)算法进行了详细介绍并在此基础上进一步深入研究,介绍了两种改进方法。RTS算法作为Massive MIMO中比较优秀的检测算法,近年来引起了学者们的高度关注。本文主要就如何进一步提高RTS算法的性能以及改善RTS算法在高阶调制方式下性能表现不佳的问题进行了研究。本文给出了两种基于RTS的改进方法:随机重启主动禁忌搜索(Random Condition Restar-Reactive Tabu Search,RCR-RTS)算法和 RTS-BP(Reactive Tabu search-BeliefPropagation)联合检测算法,并对它们进行了仿真分析。本文首先介绍了 MIMO系统及其信号检测技术的研究背景和面临的现状,并简要的概述了 MIMO系统模型和几种常见的信号检测算法。再详细阐述了适用于Massive MIMO系统下的RTS算法的基本原理和实现流程图,分析了该算法在Massive MIMO信号检测中的优势,并在不同QAM(Quadrature Amplitude Modulation)调制下对该检测算法进行了仿真分析。然后介绍了一种基于RTS的改进方法,即RCR-RTS检测算法,详细论述了对RTS算法的改进,给出了算法的详细流程并进行了仿真分析。该改进方法提高了检测性能,同时也改善了传统RTS算法在高阶调制系统中性能不佳的问题。接着,对标准的BP-GAI(Belief Propagation-Gauss Approximation Interference)算法进行基本分析,将 RTS 算法与BP算法相结合,介绍了另一种基于RTS的改进方法,即RTS-BP联合检测算法,并仿真验证了该改进算法性能较RTS算法得到了提升,也能在一定程度上改善RTS算法在高阶调制系统中性能不佳的情况。最后,对给出的RCR-RTS和RTS-BP这两种检测算法做了性能和复杂度的分析比较,并得出结论,本文介绍的RCR-RTS和RTS-BP检测算法,是从两个完全不同的角度对RTS算法的改进。这两种基于RTS的检测算法都有各自的优点,在Massive MIMO中的性能表现良好,都是非常适用于Massive MIMO系统中的信号检测算法。本文主要以具有低复杂度高性能的主动禁忌搜索(RTS)算法为重点,并在此基础上介绍了两种改进方法,在配备多天线的Massive MIMO系统信号检测中具有良好的性能表现,为Massive MIMO信号检测问题带来了一些新鲜的方法及思路。