近年来,随着移动互联网的迅猛发展,用户对于数据流量以及通信带宽的需求也不断增长。新型的网络架构是第五代移动通信(5G)中的关键技术之一,它们可以满足用户对高速通信速率的需求。其次,全双工(Full-Duplex,FD)技术也是一种候选的关键技术,它可以在很大程度上提高自回程网络的频带利用率。本文主要研究基于FD传输的超密集异构网络系统性能。论文的主要工作包含:(1)介绍5G新型网络架构及其演进方案,概述了5G将采用的一些关键技术,包括移动边缘计算(Mobile Edge Computing,MEC)技术,自回程技术,大规模MIMO技术以及FD技术。(2)针对一种基于FD的超密集异构网络模型,分析单天线模式下的系统性能。首先采用随机几何模型对系统链路的平均速率进行了推导,然后对系统进行了多小区仿真。最后通过仿真结果对比了超密集异构网络模型在FD和HD传输模式下的链路和速率性能。(3)研究基于大规模MIMO的超密集异构网络系统性能,并考虑微小区之间的同信道干扰。宏基站发射机为多天线配置,采用最大比传输(Maximum Ratio Transmission,MRT)策略对信号进行预编码。其次,通过仿真对比了回程链路与接入链路下行和速率的差异,以及宏基站天线数对回程链路和速率的影响。仿真结果显示:所研究系统的回程链路和速率要大于接入链路,而且随着宏基站天线数目的增多,回程链路和速率随之增大。