大规模MIMO通过在基站端配置大规模天线阵列,能够大幅度地提升信道容量、频谱效率,成为5G的核心技术之一。但是信号处理的复杂度也随着基站端天线数和用户数的增长而剧增。最小均方误差(Minimum Mean Square Error,MMSE)算法在实现较好的检测性能的同时保持比较低的计算复杂度,但是也存着高维矩阵求逆的问题,针对如何降低复杂度,专家学者对此提出了很多简化算法,如级数展开算法和迭代近似求逆算法,但是有些算法还存在收敛速度慢和复杂度高的问题。因此本文深入研究了连续超松弛(Successive Over Relaxation,SOR)迭代算法的加速收敛问题和Neumann级数展开项数时算法复杂度高的问题。首先针对SOR算法收速度慢的问题,本文结合最速下降(Steepest Descent SD)算法和SOR算法提出了一种低复杂度混合迭代算法SDSOR。SD算法在迭代开始就有很好的收敛方向,但是在极值点附近收敛比较慢,SOR算法初始收敛性差,因此结合SD和SOR算法,利用SD算法为复杂度相对较低的SOR算法提供有效的搜索方向,以加快SOR算法收敛速度,从而提高算法检测性能。仿真结果表明,SDSOR快速收敛,以较少的迭代次数即可接近MMSE检测性能,并将算法复杂度降低了一个数量级。其次,针对SOR算法的收敛速度慢和Neumann展开项数算法复杂度高的问题,本文结合SOR算法和Neumann级数展开提出了一种低复杂度混合算法NESOR。NESOR算法避免了高维矩阵精确求逆的问题,由于二阶展开项算法复杂度比较低,于是将其作为SOR算法迭代初始值,以加速SOR算法收敛速度。仿真结果表明,NESOR 比传统的Neumann级数展开算法实现更好的检测性能,并且在任意迭代次数下比MMSE算法复杂度低一个数量级,同时NESOR算法比SOR算法收敛速度更快,以更少的迭代次数即可接近MMSE检测性能。最后针对信号检测符号软判决的对数似然比(Log-Likelihood Ratio,LLR)软信息计算复杂度高的问题,本文介绍了两种近似对数似然比的计算方法,以进一步降低算法实现的计算复杂度。