下一代移动通信系统对高速率的数据传输服务提出了更高的要求,同时对系统的可靠性要求也更高,这些都使得B3G/4G中的多输入多输出(MIMO)技术,迭代检测技术,信道编码技术等成为解决问题的关键性技术。MIMO技术通过使用多副天线极大地提高了系统的容量,迭代检测技术结合了软输入软输出(SISO)检测和信道译码技术,能充分利用译码器所提供的软信息,更好地抑制干扰量,提高系统的可靠性,因而得到了广泛的研究。本论文主要针对SISO迭代检测技术进行了研究,主要内容如下:1).首先介绍了LDPC码的概率域和对数域译码原理,给出了基于LDPC编码的迭代检测系统的结构。2).在对传统的SISO并行软干扰消除最小均方误差(SIC-MMSE)迭代检测算法研究的基础上,对基于软判决反馈的SIC-MMSE算法和基于符号可靠度排序的SIC-MMSE算法的实现过程进行了详细分析。后两类算法的检测时延比传统的并行SISO检测算法要长,但性能优于并行检测算法。3).研究了采用LDPC编码的迭代检测系统中的SISO分层迭代检测算法,并基于次优排序思想和分组思想提出了一些改进的算法,改进后的算法降低了误差传播并获得了分集增益,改善了系统性能。4).研究了信道估计存在误差下基于最小均方误差(MMSE)准则的检测算法的性能,并在接收端已经获得信道估计误差的统计信息的情况下,利用信道估计误差的统计信息对迭代检测算法输出软信息的计算进行了修正,改善了系统性能。