为了实现下一代无线通信高传输速率及高频谱效率的目标,正交频分复用(OFDM)技术和多输入多输出(MIMO)技术已成为下一代无线通信系统物理层的核心技术。OFDM技术能有效对抗频率选择性衰落,提供高速率传输,其实质是一种多载波调制技术。针对多载波系统,信道估计对系统的性能有着至关重要的作用。另一方面,MIMO技术可以实现空间复用和空间分集,有效的提高系统容量和系统性能,但在实现过程中对体积、成本、功耗受限的移动终端要实现MIMO技术较为困难。而协作中继通信技术由于可以在不需配备多天线的情况下也能享受MIMO的空间分集,这为原本无法配备多天线的移动终端实现MIMO技术提供了新思路,为MIMO技术的应用开辟了新道路,因此协作通信已成为最新的研究热点。本文在国内外相关研究工作的基础上,针对多载波系统的信道估计及协作中继通信系统的若干关键理论与技术进行了深入研究,特别是对基于OFDM的多载波码分多址(MC-CDMA)上行链路信道估计技术、协作通信中的相位补偿策略、中继选择策略、以及结合OFDM技术的协作通信技术等方面取得了较大研究进展。在上行MC-CDMA信道估计方面,本文提出了精确估计信道参数来辅助估计信道的方案。相比传统的MC-CDMA上行链路中的信道估计方案,所提方案能精确估计信道参数,包括信道径数及路径时延,成功克服了传统方案门限值设置带来的性能不鲁棒问题。在分布式空时协作方面,本文提出了一种基于相位补偿的分布式空时协作方案。与传统的分布式空时协作方案相比,相位补偿方案由于在中继节点处增加了相位补偿模块,并利用此模块使得目的节点接收端的检测复杂度大大降低,即在低复杂度的线性检测下能取得与最大似然检测相近的性能。另一方面,由于所提方案增加了相位补偿模块,为公平比较,所提策略的复杂度包括相位补偿模块的复杂度。所提算法成功弥补了复杂度和性能差距,其可以在复杂度较低的情况下获得优异的性能。在协作中继节点选择方面,本文提出了一种更合理的基于部分链路的中继选择方案,该方案以最大化系统容量为目标,不同于现存基于部分链路的中继选择方案那样只考虑单纯的合作情况,所提方案给出的优化准则是兼顾考虑是否需要合作以及跟谁合作这两方面的问题,该准则明显提高系统性能。另外,所提方案的另一创新点是联合了功率分配,保证了基于部分链路中继选择中性能的鲁棒性。在结合OFDM的协作中继方面,本文通过理论推导误比特率的上界,提出了一种适应于OFDM再生中继系统,并满足信息传输速率和误比特率限制条件下最小化系统总发送功率的自适应比特和功率分配策略；并且为进一步提高性能,提出了结合子载波配对的自适应比特和功率分配方案；仿真结果表明,与等比特分配算法相比,本文提出的自适应比特和功率分配算法以及结合载波匹配的算法能有效地降低了系统发送功率。