近几十年,无线通信领域涌现出一大批新技术,使得无线通信得到了长足的发展,其发展方向不只限于地面无线通信,更向空间通信延伸。卫星通信网络覆盖面广,接入方便,组网灵活,具有地面无线通信不具有的优势,空天地一体化已经成为未来无线通信领域的一大发展目标。相对于地面通信技术,卫星通信技术的发展相对滞后,近几年宽带卫星通信技术的突破使得新的卫星通信网络能够承载更多类型、更多数量的业务,为更多用户提供通信服务,但其相关的资源配置算法仍有待优化。因此,如何合理的利用卫星通信网络的资源成为当前需要解决的重要问题之一。卫星通信资源管理的目标,是要在增加系统吞吐量的同时,考虑到用户在使用卫星通信服务时的体验,避免大量用户同时使用时容易出现的服务质量变差的问题。本文针对应用DVB-RCS协议的卫星通信系统,引入跨层设计思想。并在此基础上研究了卫星通信中的ARQ-ACM算法、基于非线性规划的动态带宽分配算法和基于凸优化的数据调度算法。本论文的主要创新点和研究工作如下:1.基于卫星信道特征和ACM与ARQ相结合的跨层设计方式,提出限制重传次数和保证误包率的卫星通信ARQ-ACM算法。在考虑ARQ机制对误包率影响的基础上,在误包率与重传次数中进行权衡,并将其作为依据对ACM算法进行优化,仿真验证了算法的传输性能优于传统ACM算法。2.基于跨层设计理论、NUM模型和非线性规划方法,提出卫星通信中基于非线性规划的跨层动态带宽分配模型和算法。综合考虑应用层、链路层和物理层信息,建立跨层效用函数模型,并结合非线性规划和贪婪算法对其进行求解。仿真证明基于非线性规划的跨层动态带宽分配算法可以同时兼顾系统吞吐量和用户公平性,相比于经典跨层算法和注水算法,性能得到了提升。3.基于跨层设计理论和凸优化方法,设计了一种二级调度器,使用轮询算法进行一级调度,提出基于凸优化的跨层数据调度算法进行二级调度。将应用层、物理层和数据链路层信息相结合,对调度算法进行联合优化,提高数据调度性能。仿真结果表明,本文所提算法性能优于经典的轮询调度方法,提高了卫星通信系统的吞吐量。