高速铁路作为大运量、高时速、可持续发展的绿色交通运输方式,已成为国家关键基础设施和重要基础产业,对我国经济社会发展和国家安全起着不可替代的全局性支撑作用。可靠的车地移动通信系统是列车安全运营的重要保障,为高速列车提供移动通信业务支持。随着铁路移动通信新型业务需求不断涌现,如旅客宽带接入业务、列车多媒体调度、铁路物联网等新业务应用应运而生,铁路移动通信系统的容量需求和频谱短缺之间的矛盾愈加严重。如何改善用户体验,提供面向旅客用户的宽带移动通信业务,成为智慧高铁亟待实现的关键目标。毫米波频段具有丰富的频谱资源,可提供大带宽的通信服务,有望保障旅客用户的宽带业务（如流媒体业务）支持。然而在高速移动场景中,基于毫米波通信技术发展高速铁路移动通信,面临着列车高速移动、运行环境复杂多变、用户密集接入等典型高铁场景特征带来的一系列挑战,如信道快速时变、链路易受遮挡、小区频繁切换等。针对上述挑战,本文先后考虑有/无遮挡场景、确定性信道与不确定性信道、单小区与多小区场景等,利用混合波束赋形、智能反射表面、移动边缘缓存等技术,以提升通信容量、提高可靠性、改善用户体验为目标,对高铁毫米波通信的性能增强技术开展研究。本文主要的研究内容和创新工作如下:1)以提升系统容量为目标,在高铁毫米波通信系统中部署混合波束赋形架构。针对下行多用户多收多发（Multi-User Multi-Input Multi-Output,MUMIMO）系统,建立满足发射功率约束以及码本限制条件约束的系统容量最大化问题,并假设已知完美信道状态信息。针对无遮挡场景,通过加权均方误差最小化算法和正交匹配追踪（Orthogonal Matching Pursuit,OMP）算法,提出两阶段混合波束赋形算法,并针对有遮挡场景,提出改进的抗遮挡算法。对所研究的系统模型和配置的仿真参数进行仿真实验,仿真结果验证了本章提出的算法以较低复杂度显著提升了系统容量（相比模拟波束赋形架构可提升69.6%）,实现高达吉比特率量级的车地通信速率,并降低约20%的中断概率。2)针对毫米波的遮挡敏感性,为提高系统可靠性、提升通信容量,通过部署智能反射表面（Intelligent Reflecting Surface,IRS）增加反射传输链路,设计收发端波束赋形与IRS相位调节参数的优化算法。假设已知统计信道状态信息（Channel State Information,CSI）,分别建立受发射功率以及常数幅度模值约束的中断概率最小化以及遍历容量最大化问题。首先,利用概率论推导系统中断概率的闭式表达式;其次,利用二次限制二次规划以及广义特征值-特征向量分析,求解中断概率最小化问题;此外,给出遍历容量的近似上界分析和Jensen渐近分析。对所研究的系统模型和配置的仿真参数进行仿真实验,仿真结果验证了中断概率的理论分析与蒙特卡洛数值结果非常接近,本文所提基于统计CSI算法的性能与已知完美CSI的性能基本吻合,表明该算法可扩展到其他非完美信道或者高移动性场景。通过仿真对比,还证明了部署IRS的系统相比传统无IRS系统,可以在降低功耗的条件下（比如达到同样的遍历容量性能时可降低约12 d Bm功耗）,降低约13.2倍的系统中断概率,提升近6.61倍的系统遍历容量。3)为改善旅客用户体验,提出移动边缘缓存（Mobile Edge Caching,MEC）辅助的流媒体自适应传输机制。建立满足列车缓冲区队列稳定性约束的长期系统平均效用最大化问题,设计多小区协作缓存方案,联合优化缓存空间分配与画面质量等级分配。首先,为了面向旅客用户提供流畅优质的流媒体业务,采用自适应视频传输方案,设置多种画面质量等级（如清晰度）,并综合考虑多种评价指标,定义用户体验质量（Quality of Experience,QoE）作为系统效用函数。其次,针对动态变化的业务请求、动态时变的信道条件、保障缓冲区队列稳定性、系统长期统计平均QoE优化等带来的挑战,利用李雅普诺夫（Lyapunov）优化理论求解该随机网络优化问题,提出一种多小区协作缓存在线算法。对所研究的系统模型和配置的仿真参数进行仿真实验,仿真结果与理论分析共同验证了系统的稳定性,证明了所提算法可以保障缓冲区队列稳定性,可兼顾视频质量与流畅性,相比传统无缓存系统,旅客用户的QoE性能提升可超过2倍。