在最近的十到二十年间，随着高超声速飞行技术的快速发展，人们对高超声速飞行器的各项要求也越来越高。然而飞行器所处的大气环境变化剧烈且复杂，且在飞行过程中有着严格的约束限制；这些因素均对飞行器的各项性能指标提出了较高的要求。而飞行器飞行轨迹的优化不仅可以促进飞行任务的设计和确定，同时可以协调飞行器各机构间的统一工作，有助于提高飞行器的整体性能。因此，作为飞行器整体设计的必要条件，飞行器飞行轨迹的优化就显得尤为重要，也是必须要解决的问题。　　本文的主要研究工作如下：　　首先，对高超声速飞行器在临近空间内再入运动过程建模所需的坐标系进行了简单的说明，结合飞行器的动力学和运动学方程及参考文献所给的大气模型，建立了简化的高超声速飞行器三自由度再入运动模型。　　其次，为了与研究所用的优化算法相结合，本文给出了包括优化变量，路径约束等在内的多约束条件下的飞行器再入运动轨迹优化问题的数学模型。并对数学模型中不同的参数数量和约束处理方法，可能会对最终优化结果造成的影响进行了分析，并根据给定的目标函数设计了相应的适应度函数，以便可以高效的寻求飞行轨迹的最优解。接着，本文对遗传算法进行了研究，针对标准遗传算法中编码过程较为复杂及算法在收敛的后期速度会有所下降等不足，采用粒子群算法对其进行了一定的改进，得到了改进型粒子群-遗传算法。并选择合适的参数数量和具体的约束处理方法，结合飞行器的三自由度运动模型，对飞行器的再入轨迹进行了优化仿真，说明了改进型的遗传算法具有更好的寻优能力，并得到了满足任务要求的最优结果。　　最后，为了将研究结果与工程应用结合，以便研究人员对仿真过程有着更直观的了解。本文以VC++为编程语言综合OpenGL函数库，将其与MATLAB的轨迹仿真结果相结合，进行可视化仿真的实验。所得结果不仅可以表明飞行器空间位置的变化，也可以显示出其姿态角度的变化，达到了期望的效果。