无人机（Unmanned Aerial Vehicle,UAV）技术发展迅速,其应用成本也在不断降低,在无线通信领域,无人机可搭载多种通信设备如小基站、传感器、接收机等形成无人机通信,是新一代空天地一体化通信的重要组成部分。无人机通信具有可在空中灵活部署,3D可移动性,飞行高度足够高且与地面节点产生更高概率的视距（Line of Sight,Lo S）链路等优势,因此无人机通信已经成为当前的研究热点,同时也是6G通信发展的重要方向之一。无人机作为空中中继时,可以协作超远距离通信,还可以帮助具有通信障碍的用户之间恢复通信传输。但无人机辅助中继通信系统仍然面临着很多的挑战,如无人机辅助中继通信容量问题,无人机执行任务的能耗与时间问题等。本文研究了无人机作为空中全双工双向中继（Full-Duplex Two-Way Relay,FDTWR）实现中继通信容量的进一步提升,目前针对无人机中继的研究主要在轨迹或资源调度方面,多考虑较为简单的半双工模式,半双工在系统实现上较为方便,但时隙资源与频率资源的利用率还有可优化的空间。在FD-TWR模式下,用户可以同时进行信号的双向传输,大大的提升了时频资源利用率,增加通信容量。另外,本文还研究了无人机FD-TWR服务场景中,在任务量确定的情况下,通过优化其轨迹与地面资源调度,解决任务最低能耗问题与任务时间最小问题。本文主要创新点与工作如下所述:本文首先研究了多对用户无人机FD-TWR系统的性能优化传输策略。FDTWR网络是通过全双工中继节点利用相同的时频资源,同时完成两个全双工用户节点之间的高效双向数据传输模式。利用无人机的按需灵活部署优点,基于无人机的FD-TWR网络能够进一步提升协作通信的覆盖范围。为此,研究利用无人机辅助多对地面用户进行双向中继通信,通过对无人机飞行轨迹、地面用户的时间调度与用户发射功率分配等多个变量进行联合优化,实现了用户对之间传输的平均最小可达速率最大化。无人机在通信服务过程中采用物理层网络编码（Physical Layer Network Coding,PNC）中继传输协议,并利用时间离散（Time Discretization,TD）方法对原问题的连续变量离散化。由于所研究问题的非凸性,采用多种凸优化方法,如连续凸近似（Successive Convex Approximation,SCA）处理、块坐标下降（Block Coordinate Descent,BCD）等方法,通过对原问题解耦分块求解,并采用交替迭代方式优化,实现了问题的快速求解。仿真结果表明,该方法较之基准方案能提升系统整体通信可达速率。本文进一步研究无人机FD-TWR网络的飞行能耗与完成时间优化策略。并在不同中继通信吞吐量需求条件下,解决系统总能耗最小化与任务时间最小化问题。其中,无人机FD-TWR使用时分多址（Time Division Multiple Access,TDMA）技术为地面多对用户提供通信中继服务,并利用路径离散（Path Discretization,PD）方法将问题中的多个连续变量离散化。之后利用SCA与BCD等方法,将其划分为关于用户任务调度、发射功率和无人机的轨迹相关的多个子问题,并利用了基于旅行商问题（Travelling Salesman Problem,TSP）的无人机轨迹初始化方法。通过多步迭代,直至优化收敛。仿真结果显示,优化的资源得到合理的调度,优化后的无人机轨迹也能提升整体通信质量,实现了任务能耗与完成时间的最小化。并进一步分析了不同目标下,任务能耗与时间的权衡。