载人登月是一项技术难度大、复杂度高的系统工程,具有极高的风险性,对保障航天员安全提出了很高要求。航天器在应急条件下提前返回时可能需要较多的燃料消耗,如果不对其返回轨迹进行优化,应急返回就可能成为难以完成的任务。本文系统地研究了脉冲轨迹最优控制的间接法,并将其应用到月地返回限制性三体问题中,主要研究成果如下:研究建立了脉冲轨迹间接优化的最优性必要条件一般形式。为了简化建立最优性条件的过程,推导了脉冲轨迹优化问题最优性条件的通用方程,其中包含四个与Hamilton函数、协变量有关的方程。本文方法不仅可以在内点脉冲处给出与Lawden主矢量理论等价的条件,还可进一步得到初始与终端时刻的最优性条件。研究提出了基于解析同伦的间接优化方法,用于求解由上述最优性条件一般形式建立的多点边值问题(Multi-point Boundary Value Problem,MPBVP)。通过构造具有解析协变量初值的辅助最优控制问题,进而从辅助问题逐步过渡到原始最优控制问题,可以避免使用数值算法对协变量初值进行猜测。利用上述方法研究了经典的轨道转移问题和最优交会问题,通过与其他算例结果的比较显示了上述方法的优势。研究建立了月球返回轨道模型并提出了一种轨道初步设计方法。作为轨迹优化设计的模型基础,在球坐标系统中推导给出了月球返回圆型限制性三体问题(Circular Restricted Three Body Problem,CR3BP)动力学模型。作为初步设计的模型基础,以物理意义明确的轨道根数为自变量推导给出了一套新的双二体方程。然后基于二体和双二体简化模型对月球返回终端约束参数进行了初步分析,获得了无需异面变轨的应急返回轨道特性。研究给出了月地应急返回二维轨迹最优控制的模型和算法。针对圆型限制性三体问题二维简化情形,提出了适用于二维脉冲轨迹控制的解析同伦法和协态-控制转换法,并比较了二者的性能。此外,在间接法中引入了时间-燃料混合指标来分析时间和燃料的折中关系。研究给出了月地应急返回三维轨迹最优控制的模型和算法。分别以二维特解为初始解和解析同伦方法,获得了单脉冲三维问题的最优解和三脉冲异面变轨返回轨迹的最优解。同时考虑了月球最小飞越半径的路径约束问题,根据最优性条件获得了三体问题中含有路径约束的最优解。研究了单脉冲和三脉冲变轨两种情况的最优轨迹,并比较了二者的性能。综上,针对脉冲轨迹优化问题,论文对间接法优化的理论和方法进行了深入的研究,通过引入解析同伦法解决了协变量初值猜测的难题,形成了一套较为系统的脉冲轨迹间接优化方法。本文方法在理论上具有通用性,可以推广应用于其它脉冲轨迹优化问题中。论文以月球应急返回为背景,将间接优化方法应用到复杂的圆型限制性三体问题脉冲轨迹优化问题中,揭示了月球应急返回最优变轨问题的一系列新的特性,可为我国未来载人登月任务规划和论证提供有价值的参考。