由于探测器在穿越火星大气时存在各种约束,如果在气动捕获时不能满足这些约束将损毁探测器,另外,在进行火星气动捕获时,不同的捕获轨道对最终的捕获结果影响也很大。在对探测器成功进行捕获并进入环绕轨道后,由于各种摄动的影响,环绕轨道会不断发生偏移,如果没有采用有效的轨道保持策略对探测器进行轨道保持,那么将严重影响探测效果,甚至使得探测器坠落火星表面。本学位论文分别对气动捕获轨道的优化和环绕轨道的保持进行研究,主要内容如下:对于火星探测器的气动轨道捕获,提出一种改进的鸽群算法对气动捕获轨道进行优化。针对原始鸽群算法存在的一些不足,提出了更具实用性的改进算法,并对改进算法的参数取值进行分析。考虑成功进行气动捕获所要求的终端约束和过程约束,根据从捕获轨道进行轨道转移进入目标轨道所需的速度增量,提出了进行捕获轨道优化的能量最优性能指标。最后利用改进的鸽群算法对气动捕获轨道进行优化,通过优化结果,验证了所提出的改进鸽群算法能够有效地实现对于气动捕获轨道的优化。针对火星环绕轨道的轨道保持问题,考虑火星环境下各种摄动因素对于环绕轨道的影响程度,主要分析了占主导地位的火星形状摄动对于偏心率和近地点幅角的影响。提出一种利用小推力,在不改变其他轨道根数的前提下,对偏心率和近地点幅角进行轨道保持的方法。并对在轨道根数初值不同的情况下采用小推力进行偏心率保持时所能达到的稳定范围进行分析。对于环绕轨道的偏心率和近地点幅角的初值与平衡点相距较远的情况,设计了一种轨道控制器,保证偏心率和近地点幅角在任意初值下都能快速的收敛到平衡点。最后,通过数值仿真验证了对由火星形状摄动引起的偏心率振荡和近地点幅角漂移的理论分析,并证明所提出的小推力进行轨道保持的方法以及所设计的轨道控制器的有效性。