蜂窝移动通信网络中的小区间干扰是通信系统容量提升的一个瓶颈,使边缘用户的吞吐量无法满足高速率的服务要求。多基站协作通信可抑制小区间干扰对通信系统造成的不利影响,增大信号的覆盖范围,提高系统的传输速率。波束成型是实现多基站协作通信干扰抑制的一项关键技术。本文针对多基站协作通信的波束成型技术展开研究,主要工作概括如下:第一,描述了多基站协作抑制小区间干扰的相关理论。对小区间干扰及其抑制技术进行了概述,并重点阐述了多基站协作通信的定义、分类和系统模型。第二,针对传统蜂窝通信系统中的小区间干扰问题,提出了一种基于博弈论的多基站协作波束成型算法,并将该算法应用于多基站协作通信系统模型。该算法是在已知其它小区策略选择的情况下,最大化自身利益的迭代算法,在此基础上研究了将最大化用户速率问题转化为效用函数优化问题进行求解,然后证明其纳什均衡的存在性和唯一性,最后给出求解纳什均衡的步骤。数值分析结果表明,相对于非协作算法,所提算法在期望用户方向上保持较高的增益,同时有效的零陷干扰用户,达到抑制小区间干扰的目的,并且具有良好的收敛性。第三,以优化多基站协作通信系统的传输速率为目标,提出了一种多基站协作波束成型方案。该方案基于线性权重粒子群优化算法(LIWPSO),将最大化系统总速率问题转化为适应度函数的优化问题进行求解。为避免搜索过程中陷入局部最优,该算法的惯性权重采用线性递减的方式。并根据所建立的优化问题,给出了适应度函数的构造方法。数值分析结果表明,相对于基本粒子群算法,所提算法具有良好的收敛性能,同时使系统总速率大大提升。