近年来，无线通信技术得到了飞速的发展。为了满足人们对通过无线方式进行高速率多媒体通信的迫切需求。下一代无线通信系统不仅需要提高数据传输速率，还要确保系统能够满足不同媒体所要求的服务质量。无线信道衰落极大地限制了无线通信的性能，而分集技术能很好地对抗无线信道衰落，基于分集技术出现了多输入多输出(Multiple Input Multiple Output, MIMO)、协同通信等技术，MIMO技术能有效提高频谱效率和链路稳定性，针对单纯 MIMO系统的研究已日渐成熟。相对而言，协同通信能以较低的硬件复杂度获得分集增益，相关技术尚在快速发展中。对于协同无线通信系统，无论中继选择技术还是协同中继策略都是需要研究的重要问题。　　目前关于中继选择研究主要针对两跳协同通信网络，提出了多种标准下的中继选择策略，该应用场景下的中继选择方案研究已经日渐成熟，而针对两跳以上的多跳网络的研究尚有许多不完善之处。因此，本文针对多跳分簇前向译码（Decode and Forward,DF）中继网络中的中继选择算法开展了研究。通过多跳模型的分析简化，我们提出了一种新的中继选择方法——分类状态保留法，该方法通过簇内中继状态选择性保留而获得系统性能和复杂度的折衷。通过与单节点贪心算法以及多状态贪心保留算法的比较分析，可以发现分类状态保留法在不同规模的DF中继网络中均有优异的性能表现。仿真实验表明，通过保留等于簇内中继节点数目的中继状态的设计能在较低的复杂度下获得近似最优的网络性能。　　和过去的单天线协同通信网络不同，基于MIMO的协同通信网络是当前研究的一个新兴的热点问题。分析表明采用AF中继策略的两跳多中继网络在中继端总功率受限条件下的最大传输速率问题是一个非凸优化问题，不能以常见方法求解，而现有解决该非凸优化问题的研究尚存在不足之处。本文分别提出两种简化非凸优化问题的方法来提高MIMO&AF多中继系统传输速率：（1）目标函数简化算法（Target Function Simplified Algorithm, TFSA），（2）约束条件简化算法（Constrain Conditions SimplifiedAlgorithm, CCSA）。TFSA方法通过放缩信道矩阵及其共轭转置乘积的特征值使此问题成为凸优化问题，并使用传统凸优化方法得到该问题的最优数值解，能逼近最优算法性能。CCSA方法通过缩小此优化问题的约束集并转换自变量使该问题成为凸优化问题，再利用拉格朗日算法获得其解析解。相对现有算法，TFSA能获得接近最优的系统性能，而CCSA算法能实现复杂度和系统性能的折衷。