近10多年来,全球许多国家都掀起了建设高速铁路的热潮。高速铁路具有速度快、正点率高、舒适方便等优点,逐渐成为人们出差旅行首选的出行方式；此时也正值移动通信技术飞速发展时期,移动通信系统的频谱效率以及移动支持性有了极大的改善。高速铁路移动通信系统的出现,使得旅客在享受高速铁路便捷舒适旅行的同时体验高质量的移动信息服务成为可能；此外,该系统还肩负了为列车控制系统提供信息传输通道的任务。当前,面向旅客信息服务的高速铁路移动通信系统还没有统一的行业标准,且用户体验质量一直无法得到保证；另一方面,虽然面向列车控制系统的高速铁路移动通信系统已经有了通用的行业标准,但是其无法提供满意的旅客信息服务。那么在高速移动条件下,同时保证列车控制业务的可靠性需求以及旅客信息业务的用户体验质量成为高速铁路移动通信系统设计所追求的目标。为到达这个目标,改善现有高速铁路移动通信系统性能,需要应用通信系统性能分析方法结合高速铁路列车控制需求对高速铁路移动通信系统性能开展深入的理论和应用研究,从整体、宏观的角度去认识整个系统。研究高速铁路移动通信系统性能,不仅包括通信系统本身的性能,更为重要的是要研究高速铁路特征对于通信系统性能的影响。本文围绕高速移动、铁路移动通信和系统性能这三个要素展开研究,旨在解决以下两方面的科学问题：存在同频干扰情况下的系统性能以及承载典型业务时的系统性能。本文在分析高速铁路移动通信系统特性的基础上,设定了本文的研究场景以及承载的典型业务。综合运用了随机理论、排队理论、有限状态Markov链、跨层设计等数学工具与优化方法,研究了不同场景下典型业务的物理层与链路层性能,提出了高速铁路链路层信道建模方法以及高速铁路差异化业务复用传输方法,为高速铁路通信系统优化提供了理论依据。本文主要工作如下：1)传输干扰是列车控制信息传输业务的一项关键性能指标。针对当前对于面向列车控制的高速铁路移动通信系统传输干扰性能影响机理认识不足的问题,分析了移动速度、衰落信道、越区切换、列车控制信息传输协议与系统传输干扰性能之间的关系,并提出传输干扰性能的定量分析模型,根据越区切换与传输干扰的关系提出了基于越区切换时间的传输干扰需求模型。2)针对频繁越区切换导致传输干扰性能下降问题,提出了高速铁路移动通信系统链状分布式天线覆盖架构,基于此覆盖架构以及考虑存在同频干扰的条件下,定量分析了系统的小区覆盖范围、系统同频干扰、载波干扰比、传输干扰性能、基于信干比的中断性能以及误码性能,并推导出接收端信干比的概率密度函数近似表达式,从理论上证明了在链状覆盖条件下,分布式天线覆盖方式依然可以有效地改善高速铁路移动通信系统性能。3)针对高速铁路移动通信系统链路层设计缺少合理信道模型的问题,提出了高速铁路移动通信系统链路层信道建模方法,建立了高速铁路链路层多维有限状态Markov链信道模型,推导出该模型的稳定状态概率以及状态转移概率等统计参数,通过蒙特卡洛仿真对模型的准确性进行验证,采用所提出的信道模型与排队论相结合,分析了高速铁路移动通信系统采用自适应调制传输时链路层吞吐量以及丢包率。4)针对未来高速铁路移动通信系统列车控制与监测业务以及旅客信息业务的复用传输问题,提出基于可分级调制的列车控制与监测业务和旅客信息业务(单播差异化业务)复用传输方法,基于高速铁路特征以及典型业务的QoS需求,采用跨层设计方法优化配置了上下行链路的可分级调制传输方案,基于本文提出的高速铁路多维有限状态Markov信道模型分析了可分级调制复用传输方案的性能优势,相比于分时传输方案,可分级调制复用方案可以有效地改善系统能量与频谱效率。