协作通信能够利用无线网络中的闲散节点资源实现数据高速可靠传输,而MIMO技术为其有效整合和利用网络资源提供了一种方法。协作通信利用节点资源形成虚拟多天线系统,使得MIMO技术可以在协作通信系统中应用。波束成形是MIMO系统中一种能够获得满分集增益和高能量效率的传输技术,可以应用于协作通信系统,被称为分布式波束成形。因此,认识和研究分布式波束成形能够推动MIMO技术在协作通信系统中的应用。论文通过比较分布式波束成形与MIMO系统波束成形的差异,指出了分布式波束成形下中继协作需要研究的问题,并提出了有效的解决方法。本文围绕该研究思路,进行了下列工作:首先,由于受到信道衰落和噪声的影响,中继节点得到的转发信号可能包含噪声或错误。考虑中继转发方式对波束成形矢量设计的影响,本文针对解调-转发,研究了中继解调错误对分布式波束成形性能的影响,提出了波束成形矢量的设计准则,并依据该准则设计了波束成形码本。实验证明所提设计方法能够降低系统的错误概率,实现了系统复杂度和性能的折中。为了降低中继复杂度和目的节点获取全局信道状态信息的难度,提出了一种基于门限选择的协作机会波束成形方法,给出了门限值的计算方法,详细分析了系统的平均接收信噪比,并讨论了门限选择算法对最优协作区域的影响。实验证明该算法有效地降低了波束成形矢量的计算和目的节点获取全局信道状态信息的难度。其次,分布式波束成形的反馈链路是广播信道,与MIMO系统相比,其反馈信息更容易发生错误,且中继独立解码造成各中继获得的反馈信息可能互不相同。本文提出了一种分析反馈错误影响的方法,给出了反馈错误概率与系统性能的关系,并讨论了抑制反馈错误影响的方法。在单中继选择系统中,论文给出了信道传输速率上界,提出了功率分配方案以最大化信道传输速率上界。实验证明此功率分配方案能够有效抑制反馈错误的影响,提高了信道传输速率,而且证明了中继数量受到反馈错误的限制。在多中继选择系统中,研究了反馈信息与反馈信号之间的映射函数,提出了一种映射函数的设计方法以最大化平均接收信噪比。理论分析和实验证明该设计方法得到的映射函数优于随机映射,使得接收信噪比损失随反馈错误概率线性增加,而且信噪比损失存在上界。在分布式波束成形系统中,研究了存在反馈错误的波束成形码本设计。由于最优码本设计方法复杂度高、收敛性差,提出了一种简单的旋转码本设计方法,实验证明旋转码本性能优于矢量量化码本。最后,当网络中存在多对用户同时通信时,干扰成为限制系统信息传输速率的主要因素。本文考虑了分布式波束成形的干扰消除问题。与MIMO系统不同,由于中继资源受限且各中继独立解码,因而不能采用接入-广播的形式去除用户间干扰。针对该问题,文章研究了中继采用分布式波束成形的干扰对齐技术,在保证干扰信道空间自由度不变的条件下,给出了所需中继节点数与用户数、中继天线数之间的关系,并提出了中继波束成形矢量的计算和优化方法。仿真显示给出的最少中继数能够获得干扰信道自由度,减少了协作网络的中继数;提出的波束成形矢量优化算法能够有效提高信息传输速率。本文研究的分布式波束成形下的中继协作问题对协作通信的发展具有重要意义,提出的分析方法对分布式系统的研究具有一定的指导意义,给出的解决方案能够有效改进分布式波束成形系统的性能。