近年来，协作通信技术以其能够有效提升系统容量、传输可靠性等优势被学术界和工业界广泛关注。该技术通过让地理上分散的节点共享彼此的天线资源，以形成一种分布式的多天线系统。如此构成的虚拟多输入多输出(Multiple-Input-Multiple-Output, MIMO)系统突破了传统MIMO技术对天线设备的限制，因而在很多通信网络中都具有非常广阔的应用前景。由于协作通信技术本质上是一种虚拟的MIMO，这使得对传统MIMO技术的研究为发展分布式系统奠定了基础。针对协作中继技术的研究主要集中在中继选择、分布式空时码、分布式波束成形等范畴。本文重点关注其中的分布式波束成形技术，主要研究成果如下：首先，关注基于译码转发协议、信源配备多天线的单中继网络。推导了该系统精确的中断概率及平均误符号率，并给出渐近中断概率及一个很紧的误符号率下界。在此基础上，提出了两种最优的功率分配策略。其次，关注基于混合转发协议的多中继协作系统，所有中继采用分布式波束成形的方式转发信号。推导了该系统中断概率上下界的闭式表达式，并分析了系统的分集阶数。当有不超过一个中继采用译码转发协议时，系统可以获得满分集。仿真结果验证了所给理论分析的准确性。针对具有两跳信息泄露的单向放大转发中继网络，提出了一种有效的安全传输方案。与传统方案不同，在所提方案中干扰中继不是单纯的发射人工噪声，而是发射有用信号和人工噪声的混合信号。这使得干扰中继能够在混淆窃听节点的同时给目的节点转发机密信息，通过提高目的节点的接收信噪比进而提升了系统的安全速率。利用双层优化的思想，可以获得一组次优的波束成形权向量和人工噪声协方差矩阵。仿真结果验证了所提方案的优势。考虑双向放大转发中继网络中的抗窃听问题，在各中继自身功率约束下，提出了一种基于安全和速率最大化的联合波束成形和人工噪声设计。为了有效求解该非凸的优化问题，给出了基于一阶泰勒展开的近似算法。而后，采用连续凸近似的思想进行有限次迭代，旨在进一步提升近似效果并获得一组高质量的近似解。由于引入了人工噪声，通过证明可以得到秩一松弛为紧的结论。仿真结果显示了所提方案的优势，以及迭代算法的快速收敛性。