随着时代的发展，人们对无线通信的传输性能的要求越来越高。多输入多输出(Multiple-Input Multiple-Output，MIMO)无线通信系统不仅能够极大地提高信号传输速率并且能够较大地增加空间分集增益，因此受到了广泛的重视。本文主要研究MIMO系统中的信号检测技术，内容如下:　　 本文首先介绍了目前无线通信的发展状况，并对MIMO系统中经典的检测算法原理进行了详细的介绍和分析，最大似然(Maximum-Likelihood，ML)检测算法能够获得理想的性能，但是由于过高的复杂度使其难以应用于实际系统中;而传统的检测算法虽然能够降低算法复杂度，但是误码性能十分有限。在此基础上，球形译码算法(sphere decoding algorithm，SD)便应运而生了，SD算法能够以较低的算法复杂度使算法性能接近于ML检测，本文将重点研究MIMO系统中的SD算法。第三章介绍了基于硬判决的SD算法，详细的分析了标准的SD算法，针对其存在的最先检测层的半径比较松散问题，提出了一种基于统计裁剪的改进SD算法:结合chi-square分布特性，对未检测层的度量值进行估计，并将估计的度量值从当前检测层中减掉，起到了有效进行半径约束从而减少超球内的搜索格点的效果，达到降低算法复杂度的目的;同时综合考虑信道的相关性，对均方误差(MeanSquared Error, MSE)较大的列进行ML检测，然后用统计裁剪的SD算法对剩余信号进行处理。理论分析和仿真结果表明，本文所提基于统计裁剪的改进SD算法能够在保持现有SD算法的误比特性能的情况下，降低算法的平均复杂度。第四章详细的介绍了MIMO系统迭代检测译码的模型以及基于软输入软输出(SISO)的SD算法。通过对误比特性能最优的最大后验概率(Maximum a posteriori，MAP)比特检测算法及SISO中经典的SD算法的深入分析，针对其存在的当前检测层搜索空间被放大的问题，本文提出了一种有效的树形裁剪的SD改进算法:利用准确译码条件下每一层的度量值可以由高斯噪声进行估计这一特性，从当前检测层的预设半径中减去已检测层的度量值和未检测层估计的度量值，有效缩小了SD算法的搜索空间。理论分析和仿真结果表明，本文所提出的树形裁剪的SD算法比已有的SISO-SD算法具有更低的平均计算复杂度。MIMO系统信号检测技术已广泛应用于实际系统中且是一个值得深入研究的课题，希望本文工作能够推进MIMO系统信号检测技术的发展，并为未来的相关研究提供有益参考。