宽带无线通信是当今通信业中最具有生机与活力的领域之一;而多输入多输出结合正交频分复用(Multiple-Input Multiple-Output combining Orthogonal Frequency Division Multiplexing,MIMO-OFDM)技术和超宽带(Ultra-Wideband,UWB)技术各因其优势,势必会成为未来宽带无线通信系统中的关键技术。在多用户环境下的MIMO-OFDM和UWB系统中,多个用户同时通信虽然能够提高系统资源利用率,然而由于无线信道的衰落势必会导致用户之间相互干扰。解决此类问题可采用多用户接收机,即多用户检测技术。因此,本论文主要研究了上述两类未来宽带无线通信系统中的多用户检测技术。其主要内容概括如下:1.在具有MIMO-OFDM技术的长距离无线通信系统中,利用判决反馈检测的方法,提出一类基于判决反馈均衡器(Decision Feedback Equalizer,DFE)的非线性多用户检测算法。描述了所提出算法具有的多重反馈结构,并通过计算比较了所提出的具有多重反馈结构的DFE与传统的DFE的最小均方误差(MMSE)性能,并用理论证明具有多重反馈结构的DFE的MMSE性能优于传统的DFE。最后,根据前级的已知匹配滤波器系数提出一种均衡器的系数优化算法。本论文提出的此类多用户检测算法在BER性能、系统容量方面均获得较好的效果。2.测量室内短距离通信的UWB信道,获得其多径衰落的模型。建立出具有对数正态衰落的多用户UWB系统模型。首次在对数正态的小尺度衰落UWB信道下,提出基于互补误差函数变异的遗传算法(CEFM-GA)的多用户检测技术。讨论了CEFM-GA具体检测流程,并利用互补误差函数来计算变异概率。仿真实验表明在IEEE 802.15.3a的CM1～CM4信道下,CEFM-GA获得较优的BER性能。3.建立出具有Nakagami衰落的多用户UWB系统模型,并权衡了遗传算法和蚁群优化算法的优缺点,提出一种优势互补的混合多用户检测算法——蚁群优化结合基于Q函数变异的遗传算法(ACO QFM-GA)的多用户检测算法。ACO QFM-GA将遗传算法的结果转化为蚁群优化算法的信息素的初始分布;然后利用蚁群优化算法的正反馈性进行最终最优解的计算。我们将ACO QFM-GA算法流程分为遗传算法和蚁群优化算法两个部分进行研究。首先针对前级的基于Q函数变异的遗传算法具体讨论了其变异运算。然后以详细分析了后级的蚁群优化算法。仿真实验表明在Nakagami衰落的视距UWB信道下,ACO QFM-GA得益于遗传算法和蚁群优化算法各自的优势,以相对较低的计算复杂度获得较优的BER性能。4.根据所提出的多用户检测算法具有循环迭代计算的特点,提出一种能够降低计算复杂度的差分算法(或差分多用户检测算法)。在多用户的MIMO-OFDM系统中,提出适用于基于此前DFE的差分多用户检测算法。首先,诠释了差分算法的基本思想,并描绘了具有差分结构的MIMO MIC DFE-EFF DA和MIMO MIC DFE-EFF(COA)DA。然后,通过演算得到适用于各种调制系统的差分算法。最后,计算得到各种多用户检测算法的计算复杂度的表达式。仿真实验表明了MIMO MIC DFE-EFF DA和MIMO MIC DFE-EFF(COA)DA分别较此前MIMO MIC DFE-EFF和MIMO MIC DFE-EFF(COA)均节省了绝大部分的计算资源。而且,由于差分算法是线性变换,几乎不会影响系统的BER性能。5.分析得出遗传算法虽具有较快的搜索初期收敛性,但其计算复杂度制约了基于遗传算法的一类多用户检测技术。并以CEFM-GA为例,在多用户的UWB系统中,提出了一种基于遗传算法的差分多用户检测算法——CEFM-GA DA。首先,描绘了CEFM-GA DA的具体结构。然后,深入分析了它的原理。最后,计算得到各种多用户检测算法的计算复杂度的表达式。仿真实验表明CEFM-GA DA不但具有较低的计算复杂度,而且它还能通过差分算法间接获取BER性能的提升。除研究多用户检测技术之外,本论文所提出的基于DFE的检测算法对普适DFE研究也具有一定积极意义;而且差分算法在解决具有循环迭代计算的系统的复杂度问题上也具有普遍的理论适用性。