在人们对太空领域进行探索与利用的同时,空间科学技术也在飞速地发展,因此越来越多的航天器被发射进入太空,而这些航天器在为人类服役多年以后,其中的一大部分由于能源耗尽或者零部件损坏等问题导致无法继续工作,除了这些失效航天器之外,还有一些由于发射任务失败而遗留在太空中的废弃航天器,以及一些发射过程中产生的废弃物和碰撞中产生的太空碎片等,这些太空废弃物已经失去了自主控制能力,基本都遗留在原轨道,但是可用的轨道资源是有限的,除此之外,这些太空废弃物还会对其他在轨卫星的工作和安全造成一定的影响。在这种情况下,以维修故障航天器、清理空间碎片为目的的空间在轨服务应运而生,成为当下航天技术领域的研究热点。一般来说,在轨服务的目标(比如说失效卫星,敌对卫星,空间碎片)都是非合作的,因此如何在无法获得精确相对运动信息的情况下,实现服务航天器高精度的姿轨耦合控制成为了在轨服务领域的重点。所以本文以空间非合作目标的抓捕为背景,以空间非合作卫星为目标,研究了在近距离以及超近距情况下非合作目标的逼近与跟踪问题。首先,定义了几个需要用到的参考坐标系,分别建立了追踪星和目标星的绝对轨道动力学方程和绝对姿态动力学方程,在建立的绝对动力学模型的基础上,推导出追踪星和目标星之间的相对轨道动力学方程和相对姿态动力学方程。考虑到追踪星轨道和目标星姿态有一定的耦合关系,基于偏差建立了追踪星和目标星之间的相对姿轨耦合动力学模型,作为后续研究工作的基础。然后,考虑到滑模控制对系统不确定性和外界干扰具有很好的鲁棒性,因此采用滑模控制理论来设计近距离情况下追踪星对非合作目标星的相对轨道和姿态耦合控制算法。首先设计了一种基于传统滑模方法的控制律,并分析了控制律的稳定性,仿真验证传统滑模对于具有系统不确定性和外界干扰的系统控制效果一般。然后为了达到更好的控制效果,对系统不确定性和未知的外界干扰进行补偿,设计了一种可以预设调整时间的自适应滑模控制律,仿真验证自适应滑模控制律针对具有系统不确定性和未知有界干扰的系统可以达到更好的控制效果。最后,研究超近距离情况下非合作目标的逼近与跟踪控制问题,此时,追踪星上的相机等视觉测量设备由于视角原因无法拍摄得到完整的目标星的信息,进而无法得到准确的相对姿轨信息,无法实现稳定的姿轨耦合控制,为了解决这个问题,采用子母星方案,母星留在安全距离处给子星提供目标星的姿轨测量信息,子星携带抓捕装置实现最终逼近跟踪和抓捕。基于这种方案,提出一种混合视觉伺服控制方法,利用间接估计的图像视觉伺服方法控制相对位置,利用帆板或者卫星主体部分图像特征跟踪相对姿态,仿真验证,该控制方法可以保证子星安全逼近跟踪目标星,误差可以达到抓捕要求。