随着新兴移动应用的大量涌现,移动通信网络用户数据传输、处理的需求急剧增长。移动边缘计算(Mobile Edge Computing,MEC)技术是指在靠近用户的网络边缘部署计算服务器,能够为用户提供低时延的数据处理服务。同时,超密集网络(Ultra-dense Networks,UDN)中的基站密集部署能大幅提升无线接入网的传输能力。MEC与UDN的结合,为服务具有大量数据传输需求和低时延数据处理要求的新任务带来了便利,成为备受关注的移动通信场景。然而,小基站的密集部署带来了严重的干扰问题,如何合理的设置基站密度和配置MEC服务器以达到传输性能、计算服务能力与用户需求的匹配,如何在密集部署的小基站中选择合适的接入节点实现用户计算任务的高效卸载,成为亟待解决的问题。同时,面向具体的任务,如何设计恰当的MEC服务方案,也成为了研究人员关注的热点。针对上述问题,本文首先从MEC增强的UDN性能分析、任务卸载节点选择算法设计开展研究,并以MEC支持的短视频任务应用为例,进一步设计面向用户体验的无线承载控制和短视频质量选择联合优化算法。具体工作如下:(1)以小型基站上行干扰统计特性分析为基础,探索了MEC增强的UDN的上行空间遍历容量问题,并进行小基站配置设计。首先,采用空间泊松点过程对干扰源用户分布进行建模,同时考虑无线信道的多天线与小尺度衰落特性,以小基站部署密度为变量分析上行用户信干比的统计特性及变化规律;然后,根据排队论计算空间任务强度与MEC服务器计算能力之间的约束关系;最后,数值仿真验证了信干比与基站密度之间理论关系分析的正确性,得出了空间遍历容量的收敛趋势,并给出了小基站配置设计的例子。(2)在MEC增强的UDN中,设计了一种基于深度强化学习(Deep Reinforcement Learning,DRL)的任务卸载接入节点选择(DRL-based Traffic Offloading Node Selection,DRL-TONS)算法。研究中以用户的传输和计算服务时延为优化目标,考虑无线信道资源与MEC计算资源,将任务卸载接入节点选择问题建模为马尔可夫决策过程(Markov Decision Process,MDP),并以DRL中的策略梯度算法为基础设计了DRL-TONS算法进行训练。训练结果显示DRL-TONS算法性能优于对比算法。测试结果表明,当任务到达率在0.4到1.0之间变化时,使用任务到达率为0.8时训练完成的深度策略网络仍具有适应性。(3)在MEC支持短视频任务场景中,提出了一种基于策略梯度算法的短视频质量选择和无线承载控制(Policy Gradient based Quality selection and Radio bearer control,PG-QR)联合优化算法。以长期视频质量收益、无线承载使用成本和任务延迟惩罚的代价函数为联合优化目标并建模为MDP,基于策略梯度算法提出的PG-QR算法对该优化问题进行训练。仿真结果表明,在PG-QR算法中设置不同的优化目标权重系数时均能获得优于对比算法的训练性能。