随着科学技术的快速发展,智能终端设备的种类越来越多,如智能家电、智能手机、可穿戴设备等,并且这些设备具有无线通信能力,可以通过Wi-Fi、蓝牙、蜂窝网络等通信技术实现终端设备间的直接通信;另外,未来网络将会面临移动数据流量的爆炸性增长、海量的终端设备急需连接以及频谱资源濒临匮乏等问题。由于端对端通信(D2D,device-to-device communication)具有潜在的减轻基站压力、提升系统网络性能、降低端到端传输时延、提高频谱效率的潜力,因此成为5G移动通信网络的关键技术之一。虽然D2D通信允许邻近设备之间的直接通信来改进网络性能,但是具体实现过程中涉及到诸多挑战。一方面,为了提升终端用户体验,D2D通信能够帮助基站实现业务分流,保障小区边缘用户的通信质量,然而此时基站和其他终端仍易遭受恶意窃听以及干扰攻击;另一方面,就频谱效率而言,D2D通信可以通过共享蜂窝用户(CU)的频谱资源来提高频谱利用率,然而这是以对CU产生干扰为代价的。为了有效解决D2D通信网络中的复杂干扰问题并保障CU安全通信,本文针对D2D和宏蜂窝(Macro Cell)共存的通信场景,研究安全通信和干扰协调优化算法。首先,本文针对下行单信道D2D安全通信场景,提出了利用D2D信号作友好干扰来帮助CU防止恶意窃听的思路。进而提出了一种联合D2D链路及CU的功率分配和信道匹配优化算法,从物理层安全角度设计D2D资源管理,在确保CU的服务质量(QoS)的同时,D2D网络能够获得最大传输速率。由于D2D链路和CU之间的干扰以及信道匹配问题,网络和速率最大化问题是一个困难的非线性混合整数问题。本文通过论证其安全复用的条件,并对功率限制进行转化,将原非凸问题进行了简化,推导获得了最优功率分配闭式解和最优信道匹配,设计了最优的资源管理算法。仿真结果表明,所提出的资源管理策略优于多个现有方案,实现了频谱效率与安全通信的双重增益。其次,本文进一步研究了下行多信道D2D安全通信问题。相比于单信道D2D,多信道D2D通信能够同时复用多个CU信道,进一步提高了网络频谱利用率。本文考虑CU安全通信约束下的多信道D2D网络效用最大化问题。尽管多信道D2D使得相互干扰变得更为复杂,本文通过将信道匹配变量进行松弛,引入适量辅助变量的方式,将原问题进行解耦,提出了两种D2D网络效用最大化算法。仿真结果表明,本文所提的两种算法能够获得逼近全局最优的性能,且较单信道D2D通信有显著的性能提升。最后,本文考虑多个CU和多D2D链路之间的下行链路资源共享问题,其中每个D2D链路可以复用多个CU信道,同时每个CU信道也可以被多个D2D链路共享。该方案能够最大限度利用频谱资源,但同时也是D2D通信网中最复杂的场景,此时除了D2D链路与CU之间的干扰外,D2D链路之间也存在相互干扰,由此产生网络设计问题本身为困难的非凸问题。针对这一问题,本文提出了两种对数逼近算法,能够获得逼近全局最优的性能,并给出了其分布式算法实现以及收敛性证明。仿真结果表明,所提出的两种算法能够充分地利用D2D网络中的本地信息,有效地提升整体网络效用。