随着无线通信用户数量和需求的不断增长,传统的单输入单输出(SISO)无线通信系统和常规的天线分集技术已无法满足新一代无线通信对频谱效率和传输质量的要求。结合空时处理的多输入多输出(MIMO)技术的出现为解决该问题提供了新的途径。通过在发射和接收端配置多个天线,MIMO系统可以充分利用多径信道的空间特征,在散射丰富环境中提供非常高的频谱效率和传输性能。MIMO技术已经被认为是未来实现高速无线通信的关键技术之一。然而,与SISO系统相比,MIMO在应用方面还存在诸多亟待解决的问题。一方面,现实信道中存在的空间相关性影响着MIMO系统的容量和可靠性,强相关信道会严重降低系统性能;另一方面,多天线的使用增加了系统的实现成本和接收端检测的复杂度。因此,能否有效地降低信道相关性的影响和在保持一定性能前提下降低算法的复杂度成为MIMO技术能否真正应用于实际通信系统的关键因素。在发射端利用信道信息的自适应预处理技术可以减小信道衰落和相关性的影响,成为提高MIMO频谱利用率和链路传输性能的有效途径。另外,天线选择技术和并行多级检测技术可以降低MIMO实现成本和检测复杂度,增强了MIMO的实用性。有鉴于此,本文研究了MIMO通信系统中的预处理技术和快速检测技术,包括预处理技术中的功率分配、波束形成和发射天线选择技术以及多级检测技术,还分析了相关信道下阵列结构对MIMO性能的影响。文中首先以最小差错概率为优化准则,对空间复用系统的预处理技术进行了研究。对于准静态信道,利用瞬时信道信息,结合判决反馈接收机推导了最小瞬时误码率的功率分配算法;对于相关瑞利信道,利用信道二阶统计信息,结合特征波束形成技术,提出了最小平均误符号率的功率分配方案,并给出了相应的解析公式,避免了以往算法中的循环迭代运算。最后,将上述结论推广到莱斯信道中,将LOS分量的影响等价为发射相关性的影响,给出了统一的预处理方案。针对独立莱斯信道的特点,提出了基于K因子和LOS发射角信息的预处理方案,减小了闭环反馈量和处理复杂度。其次,针对相关信道下基于波束形成的STBC系统的特点,提出了利用信道二阶统计信息的天线选择方案,推导了基于最小平均误码率的天线选择准则。天线选择和特征波束形成均利用统计信道信息,选择算法无需频繁更新,有利于硬件的实现和信息反馈。再次,从阵列结构的角度研究了相关信道下MIMO系统性能。通过分析基于波束形成的STBC系统各个分支信噪比(SNR)与系统平均误码率的关系,提出了采用非均匀阵列来提高系统的性能;此外,利用均匀园阵的平面对称性,将之应用到空间复用系统中来提高系统性能的稳定性,在强相关信道中表现出优于均匀线阵的性能。最后研究了用于降低检测复杂度的多级并行检测算法,并在此基础上提出了两种新的算法来降低误差传递:1)改进的自适应加权多级检测算法。该算法在每级中从性能最差的子流开始检测来得到更可靠的干扰抵消,子流个数较多时可获得明显的性能增益。(2)双向多级检测算法。通过在每一级同时进行正向和反向检测,利用两次检测的软判决值得到最终判决。它不用计算差错概率和对信号功率排序,因而具有很低的复杂度。