为了支持急剧增长的移动数据流量需求,新一代蜂窝网络将呈现为由宏基站与密集小基站组成的异构多层蜂窝网络形态。在异构蜂窝网络中,小基站紧缺的回程链路容量制约了网络性能的进一步提升。缓存技术作为一种有效的解决方法成为了当前的研究热点。通过在小基站部署缓存,并提前将一些热门文件缓存到小基站,用户可以直接从小基站的缓存获取所需文件,而不需要经过回程链路,从而有效地提高网络性能。本文针对不同的场景和优化目标,对小基站的缓存策略进行优化。首先,研究以最大化命中概率为目标的小基站缓存策略优化问题。前人的研究讨论了在采用以信息为中心的小区关联方式(Information-centric Association,ICA)下,引入小基站休眠机制时基于命中概率的缓存策略优化问题。本文在其基础上分析了针对ICA和无小基站休眠机制的缓存策略优化问题。首先基于用户与小基站密度远大于宏基站密度的假设将问题简化,然后设计了“两步优化法”,将原问题转化为两个凸优化问题进行求解。此外,本文还进一步研究了针对基于连接的小区关联方式(Connectionbased Association,CBA)的缓存策略优化问题,证明了最热门缓存策略(Most Popular Caching,MPC)就是最优缓存策略。仿真结果表明,采用ICA的最优命中概率大于CBA。然后,研究以最大化区域频谱效率为目标的小基站缓存策略优化问题。前人在研究中讨论了采用ICA、引入小基站休眠机制时基于区域频谱效率的缓存策略优化问题。本文基于此分析了针对ICA与无小基站休眠机制的缓存策略优化问题。基于小基站的缓存容量足够大、用户与小基站密度远大于宏基站密度的假设条件,以及对高斯超几何函数的近似处理,证明了MPC就是最优缓存策略。此外,本文还进一步研究了针对CBA的缓存策略优化问题,通过对高斯超几何函数的近似处理,证明了MPC就是最优缓存策略。仿真结果表明,采用ICA其最优区域频谱效率未必比CBA更大。最后,研究重传场景下的小基站缓存策略优化问题。目前已有学者研究了重传对单层网络中的基站缓存策略的影响,本文则在其基础上研究两层异构蜂窝网络的情况。针对移动用户和CBA的情况,证明了关于命中概率的优化问题是一个凸优化问题。针对移动用户和ICA的情况,基于用户密度远大于小基站密度、小基站密度远大于宏基站密度的假设,设计了“两步优化法”,将原问题转化为两个凸优化问题进行求解。针对静止用户和CBA的情况,证明了MPC就是最优缓存策略。通过仿真发现对于移动用户,当设定的最大传输次数较小时,小基站倾向于缓存最热门文件;当设定的最大传输次数较大时,小基站倾向于一种更均匀的缓存策略,从而缓存更多的非热门文件。此外仿真结果表明,用户的移动性会增加小基站所缓存文件的多样性,并提升命中概率。