在移动智能终端的越来越普及的状况下,移动互联网面临着飞速发展,且越来越多的用户聚集,使得移动数据流量的需求与用户数据业务需求呈指数式增长,传统移动网络已较难承载,给未来移动无线网络的设计带来极大的挑战,这样就使得超密集网络的研究刻不容缓。超密集网络(Ultra Dense Networks,UDN)技术是未来第五代移动通信的关键技术之一,传统集中式的静态资源分配方案已无法应对当前移动网络的需求,只有超密集组网的大规模性和高动态性才能支撑,超密集网络在现有的异构无线网络中增加部署一系列结构微型化的小基站(Small cell),能够加强热点区域的网络覆盖率、提高频谱的利用率、提升网络业务的承载能力,成为应对挑战有效的方法之一。小基站致密化也成为下一代移动通信网络的重要发展趋势。小基站密集化部署虽然可以解决日益增长的网络需求,但是由于网络的密集部署也带来了一系列的问题,而最直接的问题就是干扰。众所周知,在有限的资源下一个非常重要的问题是将资源最大化利用,而超密集网络中的小基站密集部署将会导致巨大的同层与跨层干扰会使得有限资源产生浪费,本论文提出了基于非合作博弈论的方法来解决资源优化与干扰最小化问题。本文主要研究的是基于非合作博弈论的方法来解决超密集网络的资源优化与分配问题,由于在网络中共享频谱会导致非常严重的跨层和同层干扰,那么本文在考虑跨层与同层干扰的同时解决功率优化、信道分配以及网络选择的问题,并且加入考虑能量采集和非完美信道状态的情况。功率优化问题作为一个非合作博弈模型,并且引入一个时变的同层与跨层干扰定价因子。将子信道分配问题建模为一个非合作势博弈,目标是每一个用户间的干扰最小化。网络选择主要是基于序数势博弈的分散随机学习算法,确保每一个小基站小区中新加入的用户对其影响最小的同时使得这个新用户的资源是最优的选择,实现良好的公平性。功率优化、信道分配与网络选择的迭代算法目标均为可以得到纳什均衡点。仿真可以验证功率优化、信道分配与网络选择算法的收敛性以及在超密集基站网络中的有效性。