在诸如工业过程控制、机器人控制、无人机控制等实际工程控制系统中大都是复杂的非线性控制系统,他们通常具有高维数、结构复杂、强非线性和强耦合的特点,对于这类复杂非线性控制系统的控制设计更是控制领域的一个难点问题,如果控制方法不当,将很难达到被控系统的控制要求,不会有很好的控制效果,甚至会导致被控系统无法达到稳定。因而,对于这类数学模型不精确、存在时滞现象、含有不可测的状态和未知的非线性扰动等现象的复杂非线性系统的自适应输出反馈控制问题的研究具有十分重要的理论意义和实际应用价值。针对非线性系统自适应输出反馈控制问题的研究,本文在自抗扰控制、滑模控制以及反步法等已有的非线性系统控制算法的基础上,基于这些不同控制方法的特点和优势,并结合模糊逻辑系统或神经网络以及高阶滑模微分器等方法,对已有控制方法的弊端进行改进,设计了几种控制方案,同时利用Lyapunov稳定性理论验证了整个闭环系统的稳定性,保证了所有信号的有界性。论文具体研究内容和所做工作如下:(1)针对一类不确定非线性系统,研究了一种结合反步法和自抗扰控制的新的自适应输出反馈控制方法。通过引入扩张状态观测器(ESO)对被控系统的未知状态进行实时估计,同时利用扩张状态观测器实现对系统中的不确定项在线逼近及补偿。通过非线性指令滤波器对反步法设计过程中的虚拟控制信号进行求导,避免了传统反步法设计控制中复杂性爆炸的问题,并由此设计了自适应输出反馈控制器。通过Lyapunov函数证明了这种控制方法的稳定性,验证了闭环系统中所有信号均是有界的。数值仿真算例进一步验证了该方法的有效性。(2)针对一类切换非线性系统,且系统状态不可测,存在未知非线性项以及扰动的情况,设计一类新的自适应反步滑模控制器。研究利用模糊逻辑系统(FLS),构造模糊状态观测器,并利用模糊逻辑系统实现变增益控制。此外,引入高阶滑模微分器构造精确扰动观测器,同时将高阶滑模非线性微分器的二阶形式作为滤波器。最终基于模糊状态观测器和对扰动的估计补偿,结合自适应反步设计方法和滑模控制方法,针对这类切换系统设计了一种新的自适应反步滑模控制器。新提出的方法实现了对系统未知非线性函数的实时在线逼近以及对系统未知状态的获取,对于系统的未知扰动实现精确估计补偿,传统反步法设计过程中因对虚拟控制信号重复求导而引起的控制参数复杂性急剧增长的问题得到有效避免,而且传统滑模控制中的抖振现象也有很好的抑制效果。通过Lyapunov函数对系统的稳定性进行了推导证明。控制方法的有效性通过仿真算例验证,仿真结果也进一步验证了系统稳定性和信号有界性。(3)对于工业中常用的连续搅拌釜式反应器(Continuous Stirred Tank Reactor,CSTR)建立了一个数学动态模型,并针对CSTR数学模型设计了一类自适应积分滑模控制器。针对这个复杂的非线性系统首先基于滑模控制原理设计一种有限时间状态观测器,并同时设计了一种非线性扰动观测器,从而实现了对这个非线性系统中的不可测状态量以及未知扰动的观测估计。基于估计结果,设计一种积分滑模面并引入一种自适应变比例增益的趋近律,最终构造了一种自适应积分滑模控制器,实现了对被控系统的快速跟踪同时具有非常好的鲁棒性。通过Lyapunov稳定性理论对闭环系统中的所有信号的有界性和闭环系统的稳定性进行了推导证明,并通过数值仿真以及实验分别对所设计控制方案的有效性进行了验证。