随着航运经济的蓬勃发展和我国海洋强国战略的提出，目前船舶运动控制理论研究越来越趋向针对船舶控制工程中实际问题进行深入探索，最终提高理论研究的实际可用性。船舶航向保持控制研究是船舶运动控制领域的一项重要研究任务，且船舶在海上航行过程中存在装载变化、速度变化、海洋环境干扰等诸多不确定因素。除此之外，非光滑非线性（本文仅针对磁滞非线性）现象普遍存在于机械液压系统中，舵机伺服系统作为船舶航向保持控制系统的执行设备也不可避免。这对于船舶航向保持控制任务而言会严重影响系统闭环控制精度、甚至导致系统失控。因此，本文针对该类问题开展进一步研究具有一定的实际意义。　　本文首先在船舶航向保持系统数学模型基础上引入了描述磁滞特性的一般非线性模型，即Prandtl-Ishlinskii(P-I)模型，构建了具有舵机伺服系统磁滞特性描述的船舶航向保持系统数学模型。利用Backstepping方法针对该类不确定系统设计控制律，通过Nussbaum增益函数技术处理系统模型中控制方向未知问题，针对磁滞特性导致的执行器不确定部分进行整体补偿，最终演绎出一种适用于船舶控制工程需要的鲁棒自适应控制策略。利用Lyapunov稳定性理论从理论上分析了本文所提出控制算法的有效性。基于大连海事大学科研实习船“育鲲”轮进行了系统仿真试验，结果表明本文所提出控制算法能够有效应用于船舶航向保持控制系统，对舵机伺服系统中磁滞非线性部分达到补偿镇定的作用。　　本文所开展的理论研究具有一定的理论基础和较强的实际应用价值，对提高船舶航向保持控制精度、保证船舶海上航行安全具有重要意义。