人类社会已迈入信息时代,无线通信日益受到人们重视。随着移动互联网和多媒体高速数据业务在无线通信系统中的广泛应用,下一代移动通信系统(B3G/4G系统)需要提供比现有的第二代移动通信(2G)系统和第三代移动通信(3G)系统更高的频谱利用率和功率效率、更快的传输速率、更大的用户容量、以及更稳定的服务质量。以LTE、WiMAX为代表的新一代无线通信标准正快速走向应用,与此相关的B3G无线通信技术也在日新月异地发展。　　 本文首先概述了采用多天线的多入多出(MIMO)无线通信系统的基本结构及使用的正交频分复用(OFDM)、DFT扩展的OFDM(DFT-S-OFDM)等关键技术。OFDM技术作为一种多载波传输技术,可有效对抗频率选择性衰落信道。适用于宽带系统,并具有较高的频谱效率,但存在峰均比高的问题,不适用于上行链路。多用于下行链路;DFT-S-OFDM在传统OFDM技术的基础上增加了频域的数据扩展处理,具有与单载波传输相近的峰均比性能,满足上行链路的要求。将OFDM及DFT-S-OFDM技术应用到MIMO系统中,可以显著提高数据速率和信道带宽效率。　　 接着研究了MIMO-OFDM系统中的几种软干扰抵消检测算法,包括LMMSE软干扰抵消检测算法。ZF-SQRD软干扰抵消检测算法以及MMSE-SQRD软干扰抵消检测算法。误码率性能和算法复杂度的折中,是检测算法研究的关键。本文对这些算法进行了理论推导.并重点研究了MMSE-SQRD软干扰抵消检测算法。通过性能仿真比较和算法复杂度分析得出。MMSE-SQRD软干扰抵消检测算法是一种高性能低复杂度的检测算法。　　 论文最后研究了MU-MIMO DFT=S-OFDM系统软干扰抵消迭代检测算法。根据循环前缀块传输系统的结构特点,对MU-MIMO DFT-S-OFDM系统的数学模型进行简化,研究了LMMSE软干扰抵消迭代检测算法。在此基础之上,为有效克服多天线干扰(MAI)和码间干扰(ISI),提出了MU-MIMODFT-S-OFDM系统MMSE-SQRD软干扰抵消迭代检测算法,并利用分块传输系统信道矩阵的循环特性和上三角矩阵的性质来进一步降低算法的复杂度。通过性能仿真和算法的计算复杂度分析,验证了MMSE-SQRD软干扰抵消迭代检测算法可以有效提高系统的误码率性能,优于LMMSE软干扰抵消迭代检测算法,同时具有较低的计算复杂度,是一种高性能低复杂度的迭代检测算法。