多输入多输出(MIMO)技术是无线通信领域的重大突破，也是未来无线通信系统的关键技术之一。MIMO系统利用多个天线发送和接收信号，在不增加带宽的情况下能成倍的提高通信系统的容量。在宽带无线通信系统中，信号通常遭遇频率选择性衰落。正交频分复用(OFDM)技术是一种高效的多载波调制技术，能够有效对抗频率选择性衰落.将OFDM技术和MIMO技术相结合的MIMO-OFDM系统充分地发挥了两者的优点，在成倍提高信息传送速率的同时，有效地对抗无线信道的多径衰落.MIMO-OFDM系统应用的关键因素是其检测算法性能的好坏和运算复杂度的高低。寻找高性能低复杂度的检测算法是MIMO-OFDM系统的重要研究方向，本文重点研究了各种信号检测算法。 本文首先分析了无线信道的特性，建立了几种信道模型和MIMO-OFDM系统模型。第三章研究各种现有的经典检测算法，包括线性检测算法、串行干扰抵消检测算法、排序串行干扰抵消检测算法、QR分解检测算法和LLL基约减检测算法，并对上述算法进行仿真并比较它们的性能。第四章介绍了几种次最优检测算法，包括最大似然检测算法、球形译码检测算法、类Viterbi检测算法和K最优路径检测算法，对上述算法进行了详细的性能分析和复杂度统计。本章重点研究了类Viterbi检测算法和K最优路径检测算法，针对它们在搜索过程中易将最优路径过早舍去的问题，提出采用排序QR分解和采用最小均方误差检测准则等方法提高性能，本章还提出一种低复杂度K最优路径检测算法，该算法通过约束搜索点的方式，有效的降低路径搜索的复杂度，该算法与K最优路径算法有相同的性能。第五章重点介绍了信道编码采用低密度奇偶校验码(LDPC)的迭代接收机。仿真结果显示，迭代接收机能够通过在检测器和信道解码器之间传递信息而获得性能增益。