随着第四代移动通信(4G)进入商用阶段，面向2020年及未来的第五代移动通信(5G)成为全球研究的热点，移动互联网和物联网作为未来移动通信发展的两大主要驱动力，为5G提供了广阔的应用前景。面对未来数据流量的千倍增长，千亿设备连接和多样化的业务需求，5G系统设计不仅需要满足更灵活的网络部署和更高效的运营维护，同时还需要大幅提高频谱效率、能源效率和成本效率。作为5G潜在的关键技术之一，同时同频全双工技术近年来受到了广泛的关注。同时同频全双工是指无线节点可以使用相同的时间、相同的频率，同时接收和发射信号。与现有的频分双工或时分双工相比，同时同频全双工具有更高效的频谱和资源利用率，能够极大地提升网络和设备收发设计的自由度。除此之外，全双工技术在降低拥塞、降低端对端传输时延、无线接入冲突避免和缓解隐藏终端问题等方面具有较高的性能优势。　　由于全双工收发系统使用相同的时频资源，设备本身的发射天线引起的近端自干扰信号功率远大于来自远端发射天线的期望信号功率，不仅会造成接收机的饱和，还会导致系统在模数转换时无法正确解码有用信号。为实现全双工无线通信，必须通过有效的干扰消除技术降低或消除自干扰信号。因此本文针对全双工单天线系统和多天线系统中的自干扰消除技术，从数字自干扰消除，多域自干扰联合消除以及非线性自干扰消除这三个方面进行研究。　　在数字自干扰消除方面，本文分析了数字自干扰消除中有用信号的存在对自干扰信道估计的影响，提出了一种结合自适应滤波算法优点的通用算法，对现有的谱估计数字自干扰消除算法进行改进。仿真结果表明，本文提出的改进算法具有更强的抗干扰能力和更好的收敛性。　　在多域自干扰联合消除方面，本文针对全双工多入多出系统，提出了一种极化域射频自干扰消除和时域数字自干扰消除的联合消除方案。通过理论分析和仿真验证，正交域联合消除方案有效解决了射频自干扰消除和数字自干扰消除能力相互抑制的问题，能够获得比时频域消除方案更好的性能。　　在非线性自干扰消除方面，本文分别对全双工系统收发链路中存在的非线性进行建模，并提出了两种非线性自干扰消除算法。仿真结果表明，发射功率接近7dBm时，发射链路非线性自干扰消除算法的抑制能力将超过线性自干扰消除的抑制能力;而随着发射功率的不断增大，接收链路非线性自干扰消除算法可以显著提升SINR水平，即使对于完全线性的接收链路，也优于单纯使用线性算法的性能。　　未来将进一步对全双工多入多出系统的自干扰消除算法进行改进和优化。