由于随机模型广泛地应用于金融、工程等领域，随机系统的控制理论受到众多学者的关注。在很多工程领域，人们希望动力系统的轨线能够在有限时间收敛到平衡点，这样系统不仅收敛速度快，而且具有更好的鲁棒性和抗干扰能力。当系统状态变量不可量测或不可获得时，通过系统的输出对状态变量进行估计从而设计输出反馈镇定控制器是一件非常有意义且具有挑战性的工作。逆最优控制也称为零和微分对策，与风险灵敏度指标的最优控制问题紧密相关，它的优势体现于在特定的代价泛函中对状态和控制添加适当的惩罚并且具有无限的增益裕度，因此具有更高的使用价值和更优的性能。　　本文针对几类随机非线性系统考虑了有限时间输出反馈镇定控制器的设计及有限时间逆最优控制器问题，主要工作包括:　　(1)对一类不光滑的随机非线性系统，给出了全局有限时间输出反馈镇定控制器的设计方法。首先在假设其状态变量可量测时设计出有限时间状态反馈控制器，进而构建出含有待定增益的新的观测器，通过递归的方法设计观测器增益，从而使闭环系统达到依概率全局有限时间稳定，并通过数值实例验证了所设计控制器的有效性。　　(2)对(1)中的系统设计出了有限时间逆最优的输出反馈控制器。根据随机有限时间控制Lyapunov函数的定义，结合由随机控制Lyapunov函数构造关于特定代价泛函的最优控制理论，给出了随机非线性系统依概率全局有限时间稳定意义下的逆最优控制设计理论，并对(1)系统给出了逆最优输出反馈控制器的设计方法。　　(3)对一类含有不确定参数的高阶随机非线性系统，给出了全局有限时间输出反馈镇定控制器的设计方法。首先对不含有非线性扰动项和随机扰动项的标称系统设计了动态输出反馈控制器，进而对原高阶随机非线性系统，构造了观测器并设计出合适的增益，使得闭环系统依概率全局有限时间稳定，并通过数值仿真验证了该方法的有效性。