在轨服务是增强航天器性能、延长航天器寿命、降低费用和风险、减少废旧航天器数量等的有效手段,针对被服务航天器的跟踪、交会及停靠等接近操控是服务航天器需要具备的基本功能,自主精确地获取被服务航天器的相对状态信息则是实现高精准接近操控任务的前提条件。本论文在国家国防科工局民用航天“十二五”预研项目“×××在轨维护与服务技术研究”和中国航天科技集团公司预研项目“×××在轨服务技术”等项目的资助下,面向非合作空间目标精准操控任务,围绕基于单目视觉的高精度相对位姿测量和目标跟踪控制等诸问题进行深入理论研究,取得了如下创新性研究成果:基于目标图像的相对位姿解算算法是视觉敏感器的核心,针对利用被服务航天器自然特征导致的图像特征提取和匹配粗大误差问题,基于逆投影思想,给出了一种包含景深估计和绝对方位解算的两阶段迭代算法。该算法中景深变量的引入解决了由小孔成像投影所引起的非线性问题,确保了算法的全局收敛性;同时,在绝对方位解算阶段,通过对姿态矩阵非凸约束进行凸松弛,将目标函数最小化转化为LMI约束下的最值求解问题,并利用内点法进行最优求解,保证了迭代算法的全局收敛性,提高了算法的鲁棒性和快速性,并利用全局性收敛性定理证明了其全局收敛性。最后,以在轨服务航天器接近操控任务为背景对该算法进行了数学仿真,结果表明在特征点提取存在误差影响情况下,算法具有较快的计算速度和良好的收敛性。针对单目视觉测量系统面临的视线轴方向深度信息缺乏以及输出频率受限等问题,考虑与惯导设备在输出频率以及频域内误差特性的互补性,分别在时域与频域内设计了视觉/IMU组合的多速率卡尔曼滤波和互补滤波算法。其中,多速率卡尔曼滤波器是以惯导传感器采样周围为滤波周期,依据有无视觉信息决定在滤波时刻进行时间更新或者量测更新,并利用量测信息对量测噪声阵和状态协方差阵进行后验修正的一种估计方法,该滤波器能够有效提高组合导航滤波器的数据更新频率,改善滤波算法的性能;依据视觉与惯导频域内的不同噪声特性,设计了一种互补滤波器,理论分析了互补滤波器的稳定性,数学仿真表明互补滤波器能够有效实现视觉与惯导频率上的互补,并能够用于状态快速变化过程中的状态估计。最后,构建了视觉/IMU组合导航系统的参数化CRLB模型,分析了视觉与IMU相关参数对导航精度的影响,为系统设计与参数选择提供了理论依据。在轨接近操作中,将被服务航天器高精度稳定在视觉相机视场内是服务航天器的基本功能之一。为此,将空间目标像平面误差引入跟踪控制闭环,提出了一种增益切换的空间目标跟踪PD控制律,由于直接使用目标在相平面中的视觉特征误差量,避免了视觉相机内参数标定和空间目标位姿信息求解等过程,简化了服务航天器系统配置。该算法通过引入开关函数对PD增益进行切换,提高控制系统稳定性及抗干扰性能。给出了控制器参数的估算方法,理论分析了增益切换PD控制律的收敛性。数学仿真表明能够对静止目标、复杂机动目标以及考虑服务航天器典型不确定性因素等情况进行快速跟踪,验证了视觉跟踪控制策略的有效性,以及对多类型不确定性的鲁棒性。基于气浮原理的航天器运动模拟系统能够有效模拟在外层空间航天器所受小干扰的平移和姿态运动力学环境,具有成本低、实施方便等优势。给出了空间操控技术验证系统的总体方案,设计了服务航天器视觉测量与跟踪控制物理仿真试验系统,进行了相对导航视觉相机标定,并开展了基于凸松弛优化的单视位姿确定算法、视觉/IMU组合的多速率滤波算法、基于图像信息的目标跟踪控制算法等物理仿真实验,验证了上述算法的可行性和有效性。