异构网络是下一代5G无线通信系统的重要发展趋势和研究方向之一。异构网络中的移动性管理是研究异构网络的一个重要课题,其性能的优劣直接影响异构网络整体性能以及用户服务质量(Quality of Service,Qo S)。异构网络中各种接入技术自身特点不尽相同,在物理频段、组网方式、业务需求、业务终端的接入能力以及各个接入子网络运营管理等方面都存在异构性,使得异构网络的移动性管理与以往的同构网络的移动性管理具有很大不同,也面临更多挑战。因此,异构网络的移动性管理引起了学术界广泛的关注。异构网络的移动性管理中,有效的移动预测能够使移动性管理变得更加智能而有效,而完善的切换管理机制则能够实现用户在异构网络各个接入子网络之间的无缝接入和切换,避免掉话。因此,本文将重点研究异构网络的移动性管理中的这两项关键技术。作为后面几章的移动预测和切换管理算法的基础性研究,本文首先给出异构网络的网络拓扑结构、网络状态参数分析以及新的用户移动模型的建立。其中,单小区和多小区不同拓扑结构的介绍和分析,为后文针对两种不同的网络场景设计移动预测和切换管理算法提供了模型基础;网络状态参数分析是本文切换管理最重要的切换决策依据;新的用户移动模式的引进更加符合实际异构网络环境中用户的移动规律,不仅能使用户的移动预测更具实际意义,而且能提高异构网络的移动性管理的合理性和客观性。移动预测的目标是提高网络的智能性。本文针对异构网络的单小区拓扑结构的特点,依据经典的移动模型,提出改进的Markov移动预测(Improved Markov Mobility Prediction,IMMP)算法。相对于其他算法,该算法的复杂度低,预测准确度较高。另外,针对更为复杂的异构网络多小区拓扑结构的特点,在新的移动模型下,提出了基于多值支持向量机(Support Vector Machine,SVM)的移动预测算法,更加准确的预测具有宏移动范围的用户的位置。切换管理的目标是提高网络能力和收益。本文以异构网络中各子网络的网络端状态因素为切换判决因素,提出适合于异构网络单小区拓扑结构的改进的Markov决策过程(Improved Markov Decision Process,IMDP)垂直切换算法,提高了网络容量,降低了新用户呼叫阻塞率和切换用户掉话率。另外,综合考虑网络状态因素和用户Qo S约束,提出更适合于无线异构网络多小区拓扑结构的基于Q学习的多小区混合切换算法。通过在线Q学习的方法,实现各个子网络间垂直和水平的混合切换。在保证用户Qo S的前提下,提高了网络容量和网络利用率。此外,用户对无线业务质量要求的提高导致各个网络间的竞争十分激烈。网络能够更好的满足用户体验质量(Quality of Experience,Qo E)才能在竞争中获胜并获得长远的利益。影响用户Qo E的有客观Qo S参数因素以及业务资费和终端能耗等主观因素。基于此,本文提出基于随机神经网络(Random Neural Network,RNN)的Qo E评估算法,找到Qo E与Qo S的映射关系。然后,以用户Qo E为切换决策的系统状态,综合考虑业务资费和终端能耗,提出基于Qo E的区分业务优先级的多智能体Q学习切换算法,以最大化用户Qo E为目标,最终提高了网络收益。