在卫星通信系统中，调制解调器是关键部件。所使用的调制方式、滤波策略以及解调方法对系统的整体性能--有效性和可靠性有很大的影响。　　 本文首先分析了卫星通信信道的特点，研究了目前卫星通信系统中常用的调制方式，并从其频带利用率、功率利用率等方面进行了比较，结合平衡卫星转发器带宽和功率的占用率，分析了几种调制方式在卫星通信中使用时的优缺点。　　 接着本文针对卫星通信向高速数传发展的实际情况，分析了当前卫星调制技术的不足，即不能有效克服高速数传引起的符号间干扰，提出了将多载波调制技术应用于卫星通信中，主要研究了两种多载波调制技术:OFDM技术和小波包多载波调制技术。文中在深入研究两种多载波调制技术的基础上，采用理论分析和计算机仿真相结合的方法，分别研究了OFDM调制技术和小波多载波调制技术在移动卫星通信系统和固定卫星通信系统中的使用情况，针对两种卫星通信系统信道特性的不同:在移动卫星通信系统中仿真了高速传输率下两种多载波调制方式的性能；在固定卫星通信中进行了两种调制方式下的卫星链路计算，分析了对卫星转发器频带和功率的占用情况。并将其与目前卫星通信系统中的主要调制方式QPSK进行了比较分析。