无线移动通信是当今最活跃的研究领域之一。随着人们对传输速率和服务质量要求的不断提高,无线通信系统的网络结构和传输技术都在不停地更新换代。作为提高无线通信系统频谱效率的一种有效方法,多输入多输出(MulitiInput Muilti Output, MIMO)技术有其独特的技术优势,因而被广泛关注并被许多系统所采纳。通过在收发双方放置多个天线可以获得空间分集,同时可以极大地提高系统容量和频谱利用率。但是由于受终端尺寸,功耗和复杂度以及成本等诸多因素的限制,在移动终端上安装多个天线有一定的困难。近来,人们提出协作通信(cooperative communication)技术来解决这个问题。其基本思想是每个终端可以拥有自己的一个或多个合作伙伴,伙伴共享彼此的天线,构成虚拟MIMO系统,从而使单天线的移动终端实现了空域分集,扩大网络覆盖范围并降低终端发送功率,因此协作通信技术得到了工业界和学术界的广泛关注。协作通信是是一种通信的方式,更是一种思想,它可以和其它的通信技术充分融合,在无线传感器网络(wireless sensor network, WSN)、无线自组织(Ad-Hoc)网、无线Mesh网、以及蜂窝网等系统中都有着广泛的应用前景,必将成为以异构融合网络为特征的下一代无线通信系统的关键技术之一。本论文追踪报道了国内外与协作通信有关的研究进展,列举了大量的研究成果,并指出其中的明显不足。一方面是协作模型问题,最初的协作通信为三点模型,后来发展到多中继模型,但在实际通信系统中,通信模型往往更加多样性,有可能存在多个源节点或者多个目的节点,另外由于信道衰落的复杂性,信道的衰落可能存在非对称性,也就是说不同信道可能服从不同的衰落分步,而已有工作大多是局限在两跳链路都为Rayleigh信道环境下研究的,并且信道大多是独立同分步,事实上,Nakagami信道和莱斯信道尽管相对复杂,但是它们能够代表更为广泛的实际信道情形。另外一个重要的不足是多节点网络中的节点选择问题。传统意义上的节点选择即中继节点选择,如果系统中所有中继节点都参与协作,将大大浪费系统资源,因此可以在中继节点簇中选择一个最佳中继进行通信,这种最佳中继选择的性能优于传统的协作网络(所有可用的中继都转发信号),并可以通过有限反馈以一种分布式的形式实现,针对节点选择,国内外已经大量文献报道。但对于存在多个源节点或者多个目的节点的网络来说,节点选择还包括源节点选择或者目的节点选择,当存在多个源节点或者多个目的节点时并且系统存在多个中继时,系统中就有两个节点簇：源节点／目的节点簇和中继节点簇,这时的选择问题就是在要在两个极点簇中同时选择,这是一个全新的研究领域,关于这方面的文献研究较少。基于这些问题,本论文着重对新兴的系统模型和节点选择算法进行研究,并推导出系统性能表达式。论文的主要贡献及创新点有：1)对于多中继网络来说,如果信道整体处于衰落比较严重的状态,则即使使用最佳中继,有可能也无法达到预定目标,在这种情况下,有可能需要中继节点簇中多个节点甚至全部节点参与协作。在这种背景下,提出了一种基于错误检测的中继迭代合并方案,首先根据中继链路信噪比的大小对中继簇中的节点进行性能降序排列,然后目的节点从直达链路开始按照链路信噪比从大到小的顺序进行最大比(maximal ratio combining, MRC)合并,每合并一个链路,目的端都要对合并信号进行错误检测,如果没有发现错误,则通信结束,如果发现错误,则继续利用MRC技术合并下一跳链路,然后再次进行错误检测,如果结果一直错误,则目的端会合并直达链路和所有的中继链路。在这个方案中,由于每合并一个链路都要进行错误检测,这样就减小了目的节点合并所有链路的负担,节省了系统资源,缩短了通信过程。该方案虽然增加了系统的计算复杂度,但可以克服传统的最佳中继选择的不足,充分发挥性能次优以及其他各个中继的作用。2)由于无线信道衰落的多样性,对于两跳的协作通信模型,衰落可能存在非对称的情况,也就是说第一跳和第二跳的衰落服从不同的分步。为此本文研究了非对称信道的多中继模型,所考察的信道不仅包含常用的瑞利信道,还包含更为复杂的Nakagami信道和莱斯信道。并且在此模型中,考虑到在实际通信环境中由于负载平衡等问题,最佳中继有可能变得不可用。所以系统会选择性能次优的中继节点,甚至是性能第N优的节点参与协作。这使得通信模型更加符合实际通信场景。3)针对实际环境中存在多个源节点的问题,提出一种多源多中继的系统模型,并在此模型的基础上行提出两种新的源-中继选择方案：分步选择方案和增量分步选择方案。所谓分步选择方案,就是系统先进行源节点的选择,再进行中继节点的选择。较之最优的联合选择方案,分步选择方案虽然性能有损失,但复杂度比联合选择方案要低很多,有很强的实用性。分步增量选择方案就是在分步选择方案的基础上增加了对直射路径的信道状况进行判断,当所选直射路径信道状况很好时,就可以省去协作的步骤,利用直达路径进行通信。当直射路径信道状态不好时,就进行中继选择,而且进行中继选择时仅使用第一跳信道信息,而不是像传统的中继选择方法那样,使用两跳的信道信息,这种部分选择方法所需的信道信息很少,可以有效延长网络的生命周期。增量方案与基于部分信道信息的选择方案相结合,极大地节省了系统资源的占用。4)对于多用户协作通信网络来说,在实际通信环境中,由于信道的变化或者反馈的延时,进行节点选择时使用的是非实时的CSI,即选择时刻所使用的CSI与选择完成后进行数据传输时的CSI是不同的。因此,本文对基于非实时CSI的多用户协作通信系统的性能进行分析,得出中断概率、信道容量和SER的近似表达式,另外还得到了信道容量的精确表达式。理论分析适用于链路同分布或者非同分布。5)提出了一种全新的一点对多点的多中继多用户协作通信网络模型,并根据网络特点提出了中继和用户分步选择方案,与中继-用户联合选择方案相比,该方案极大地缩短了信道估计和信道比较的过程。在这种模型上,我们进一步讨论了分别使用固定增益中继和可变增益中继两种情形,当是可变增益中继时,推导得出信道容量的精确表达式,当使用固定增益中继时,推导出信道容量的近似表达式。论文最后总结了本文解决的问题以及下一步的研究重点。