在协作通信系统中,由于半双工中继一般采用时分多址的方式发送信号以保证发射节点之间的正交性,即每个时隙内仅允许一个节点发送信号,这样为了完成一次信号的传输就需要多个时隙,因此,从整个系统来看,虽然半双工中继的转发能够提供分集增益,却导致了频谱效率的损失。为了减少该损失,两种主要的协作方案(全双工中继和两路中继)得到国内外学者们的广泛关注,由于这两种中继收发信号是同时进行,因此与半双工中继相比提高了频谱效率,然而这两种中继的性能受制于中继干扰的影响,包括全双工中继系统的中继自干扰和两路中继系统的中继间干扰,所以需要对干扰进行抑制。针对全双工中继系统的自干扰,本文基于信干比最大化准则设计收发抑制矢量来对干扰信号进行抑制,将接收矢量和发送矢量分开进行设计,经过理论推导,求出最优收发抑制矢量。仿真结果表明加入收发抑制矢量后,全双工中继系统的性能得到了提升,且系统性能变化平稳,接近无自干扰的理想情况。针对半双工两路中继间干扰,本文引入发送和接收波束成形技术,基于奇异值分解设计出波束成形矢量。仿真结果表明波束成形技术可以有效地抑制两路中继间干扰,改善两路中继系统的性能。