由于数据交换的爆炸式增长以及对数据传输速率的需求不断提高,在有限频谱资源的大环境下提高频谱利用率以满足日益增长的无线通信发展需求具有重要意义。一种有效的解决方案是基于同时同频全双工技术,在相同的通信模式下以相同的载波实现双向通信,理论上可使频谱利用率相比于现有的半双工方案翻番。为实现同时同频全双工通信,其主要挑战在于如何有效抑制本地发射机泄漏至本地接收机的自干扰信号,以保证本地接收机能正常接收到所需信号。现有的研究主要从基于单天线或者简单天线阵列的系统出发,探讨全双工通信的实现方式。针对无线通信系统对高增益、大规模天线阵列的发展需求,如何抑制天线阵列中复杂互耦带来的自干扰信号依然是全双工通信面临的难题和挑战。本文从产生自干扰信号的基本环节即天线层面出发并结合馈电网络展开研究,探讨同时同频全双工通信中,具有复杂单元间互耦的天线阵列的自干扰抑制问题。主要研究工作如下:第一章主要介绍了同时同频全双工通信的研究背景,分类概括了不同层面上的自干扰抑制手段与性能,并归纳总结了自干扰抑制面临的难题与挑战。第二章主要探讨了三款基于差分馈电的高隔离、双极化天线阵列。第一款阵列采用镜像对称的布阵方式极大提高了端口间的隔离,并深入分析了馈电网络的幅度与相位不平衡度对隔离性能的影响。为实现宽带、高性能的差分馈电网络,提出并讨论了一种基于槽线的差分馈电结构。第二款阵列采用共用天线端口的馈电形式简化差分馈电网络,实现宽带高隔离性能,并在槽线巴伦的基础上提出了一种基于槽线的180°混合网络作为该阵列的基本馈电结构。第三款双极化天线阵列基于行波天线的思路,通过镜像布阵并在特定位置加载适当负载,在减小阵元间距使阵列更加紧凑的同时进一步简化馈电网络。第三章主要以收、发端共极化为出发点,旨在进一步提升频谱利用率,提出了三种收、发高隔离的天线阵列方案。第一种方案基于线极化天线单元自旋转构型,提出了一种采用分布式元件的全双工网络,可有效抑制因天线单元复杂互耦、天线失配等方面引起的自干扰,且本地收、发两端的载波同时工作于相同的圆极化状态。后两种方案基于涡旋电磁波的模式正交性,分别以非自旋转与自旋转构型的圆环阵列为基础,尤其对采用自旋转构型的OAM阵列,本文分析并明确了阵列激励相位与OAM模式之间的物理与数值关系,为采用相关构型的OAM同时同频全双工电磁通信提供理论指导。第四章针对基于双极化MIMO天线阵列的全双工应用中因单元互耦产生的自干扰,提出一种解耦方法以有效改善MIMO系统的稳定性。该解耦方法基于传输线理论,通过在馈电层面构建额外射频链路抵消相邻共极化天线单元之间的强耦合,改善天线单元的有源匹配性能,从而保证MIMO系统的稳健工作。所实现的解耦网络不会对天线的辐射特性产生影响,且成本低、剖面低、易集成,适用于大规模MIMO天线阵列。第五章为CCFD天线层面自干扰抑制的系统级实验研究。具体以本文研制的相关天线阵列为基础搭建CCFD实验平台并开展原理性实验研究,以进一步验证天线层面自干扰抑制性能在CCFD电磁通信中的效果。第六章为本文研究工作的总结,并进一步指出可深入探索的相关方向和研究热点。