在近年的无线通信中,MIMO中继技术是一类被认为能够有效提升小区覆盖、提升信道容量的技术,并得到了广泛关注。以转发方式进行分类,MIMO中继可以分为放大转发中继、解码转发中继、解调转发中继、压缩转发中继等。这其中,放大转发中继以其低复杂度和适宜的性能被认为是最有可能部署在实际通信系统中的MIMO中继系统之一。在对于放大转发MIMO中继的研究中,最重要的研究内容之一是系统各个节点收发器的优化设计。收发器的优化设计问题依据优化目标可以分为两大类,第一类优化问题以发送功率为约束条件;第二类优化问题以接收信号的均方误差为约束条件。由于接收信号的均方误差反映了通信的质量,第二类问题又称为QoS(Quality of Service)约束下的优化问题。第二类问题当前研究尚少。同时,收发器的优化设计也会因MIMO中继系统模型的不同而发生变化。其中,对于具直接链路的MIMO中继系统,当前尚未有人研究该模型下的第二类优化问题。因此本文以此为切入点,研究QoS约束下具直接链路的MIMO中继通信系统的收发器优化问题。本文从系统和算法两个角度出发,首先在系统模型方面提出了一种相对于传统具直接链路MIMO中继系统模型更为完备的具直接链路的MIMO中继系统模型,该系统是传统具直接链路MIMO中继系统模型的推广。在该系统模型基础上,本文提出了两种基于QoS约束的迭代优化算法,均能够有效降低系统总发送功率。第一种算法称为多流算法,其相对于现有的同类系统的其它算法性能更好且具有较低的复杂度。第二种算法称为单流算法,其针对单数据流场景设计,相对于多流算法具有略优的性能,更快的收敛速度,但单轮迭代计算复杂度较高且仅能应用于单数据流场景。本文的仿真结果也证明了两种算法的有效性,且从仿真角度证明了本文提出的新型系统模型相较传统模型具有更好的性能。