作为一种新型干扰管理技术,干扰对齐能够有效提高无线通信网络的容量,受到了人们的广泛关注。本文选题来源于国家自然科学基金等项目,具有重要的理论意义和广阔的应用前景。本文在对多用户MIMO系统干扰对齐技术的基本原理进行深入研究的基础上,主要完成了以下具有创新性的研究成果。针对经典MIMO干扰信道中分布式干扰对齐算法中的缺陷,将多个干扰链路抽象为一个博弈群体,并以此提出一种基于严格势博弈的干扰对齐算法。通过构造有界势函数,证明了该博弈为有界严格势博弈,能经有限次迭代收敛至ε纳什均衡点,并分析了代价因子对算法性能的影响。相比于经典的Min-INL和Max-SINR算法,新算法可显著提升复杂MIMO干扰信道的容量。针对经典蜂窝网络中下行链路干扰对齐算法的局限性,从提升蜂窝小区总容量出发,提出了一种蜂窝网络下行链路单反馈干扰对齐算法。构建了蜂窝网络下行链路干扰对齐数学模型；用户端以最大化用户SINR为目标构造接收滤波矩阵；而基站端则以最大化小区总容量为目标构造预编码矩阵,并设计了梯度投影算法求解该优化问题。相比于经典迫零干扰对齐和联合优化算法,本文算法可有效提高蜂窝网络下行链路的容量。针对干扰对齐中的信道状态信息有限反馈问题,首先提出了一种基于加速全面学习粒子群优化的码本设计方案,通过动态调整粒子的运动速度,提高了算法学习能力与收敛速度,有效降低了码本设计的复杂度；随后提出了一种新的分层码本,旨在进一步减少码本的存储空间,通过对基码本执行缩放和旋转操作获得了所有子码本,通过结构化设计减少了所需的存储空间,并以输入矢量的旋转替代子码本的旋转,降低了计算复杂度；在此基础上,提出了一种基于格拉斯曼码本的分布式干扰对齐算法,从格拉斯曼码本中选择最优码字作为预编码矩阵和接收滤波矩阵,使干扰泄漏最小化,相对于理想反馈机制,新方案能以较少的反馈开销获得近似最优的系统容量。针对信道所呈现出的非均匀衰落特性,提出了一种基于混合整数双层规划的部分干扰对齐机制,为降低实现复杂度,将其分解为两个子问题进行求解,该机制能以少量的天线配置达到较优的性能；基于非均匀路径损耗的K用户干扰信道模型,提出了一种新的动态信道状态反馈算法,对量化误差造成的系统容量损失上限进行了量化分析,在此基础上,通过动态分配链路的反馈信息量降低干扰泄漏,并减少干扰对齐的性能损失。相比于平均分配机制,动态分配机制能有效降低有限反馈对系统性能的影响。最后对全文进行了总结,并对多用户MIMO系统干扰对齐下一步的研究方向进行了展望。