近年来,干扰对齐(Interference Alignment,IA)作为一种新颖的干扰处理方法,受到广泛的关注并成为重要的研究课题。干扰对齐是通过压缩干扰信号所占的信号维度,为期望信号提供更多的无干扰信号维度进行数据传输。该技术的产生不仅使无线干扰网络的容量有了突破性增长,而且为未来无线通信系统在多用户干扰条件实现大容量和高数据速率传输提供了理论基础。因此,研究实际无线通信系统的IA算法和应用方案设计有着非常重要的意义。近期的研究无论在干扰网络理论分析还是对不同类型系统的应用设计都取得突出的进展。然而,由于多小区多用户多输入多输出(Multiple Input and Multiple Input,MIMO)系统复杂的干扰结构及实际系统所能提供空间信号维度受限的制约,相关的IA算法设计及其在实际系统应用研究还极为有限。本论文即针对干扰对齐及其在多小区多用户MIMO系统下行场景即MIMO干扰广播信道(Interference Broadcast Channel,IBC)的算法和应用方案设计进行研究。主要从IA算法设计和信号维度受限条件下IA应用方案设计两方面展开研究。具体的,针对现有MIMO IBC信道迭代IA算法的不足,对现有算法设计进行了改进和优化。同时根据IA可行性条件分析,在系统提供有限信号维度条件下通过引入用户选择机制、无线通信链路的部分连接性(Partially Connectivity)分别设计两类IA方案并有效应用于多小区多用户MIMO系统(即确保IA方案的可行性),其中基于部分连接信道的IA方案甚至可以突破有限信号维度的制约应用于大规模部分连接多小区网络并获得随小区数线性增长的系统容量。此外,针对结构更复杂的认知无线网络(Cognitive Radio Network,,CRN)也提出了可行的IA应用方案设计。全文主要研究内容概括如下:第二章,对多小区多用户MIMO系统下行场景即MIMO IBC信道的IA算法设计进行了研究。首先分析多小区MIMO IBC信道IA的可行性条件和自由度。进而讨论现有两种MIMO IBC信道的多小区迭代IA算法,即采用最小干扰泄漏准则(Minimum Interference Leakage,Min-IL)准则的多小区Min-IL算法和基于最大信干噪比准则(Maximum Signal-to-Interference-plus-Noise Ratio,Max-SINR)的Max-SINR算法。通常后者具有比前者更好的系统和速率性能。然而由于多小区Max-SINR算法采用流的优化而未考虑系统实际应用对正交化预编码矩阵和滤波矩阵的要求,且在多数据流条件下性能并不理想,因此基于广义特征分解对多小区Max-SINR算法进行了优化,同时给出基于最大信泄噪比(Maximum Signal-to-Leakage-plus-Noise Ratio,Max-SLNR)准则多小区Max-SLNR优化算法。第三章,针对系统所能提供的空间信号维度受限(每基站和用户收发对天线数受限)条件下的多小区多用户MIMO系统IA方案的应用问题,在讨论现有基于用户选择的迭代IA方案基础上对其进行改进和优化。优化方案通过对现有方案的IA算法或迭代结构、选择用户集的优化,进一步提升了系统容量。用户选择机制的引入,不仅使系统获得了多用户分集增益,而且使多小区迭代IA算法能有效应用于任意用户数规模的多小区系统,但整个系统可获得自由度仍受限于有限的信号维度。第四章,针对有限信号维度条件下的多小区多用户MIMO系统IA方案的应用问题,利用无线通信链路的部分连接性,首先基于部分连接MIMO IC信道提出一种新颖的串行迭代IA方案。进而聚焦于多小区MIMO系统,提出基于部分连接MIMO IBC信道可行的迭代IA方案。在基站和用户收发对天线数受限条件下,所提IA方案能有效应用于任意大规模的部分连接多小区网络,并获得随小区数线性增长的系统总自由度。这意味着通过部分连接性,IA能突破有限信号维度的限制应用于大规模多小区网络,因此基于部分连接信道的IA方案对IA在大规模多小区网络的应用具有重要意义。第五章中,研究了认知无线网络(Cognitive Radio Network,CRN)IA方案的应用问题。由于认知网络带来的干扰结构更复杂,首先基于次网络是MIMO干扰信道(Interference Channel,IC)的场景,提出结合用户选择的迭代认知干扰对齐方案。进而将该方案扩展到次网络为MIMO IBC信道的场景,提出能同时有效消除多种类型干扰,结合用户选择的可行的迭代认知干扰对齐扩展方案。本章的研究进一步拓宽了干扰对齐在实际复杂网络场景的应用。