倒立摆是一种自然不稳定的多变量非线性系统，它描述了航天、机器人领域等抽象系统的模型，倒立摆的研究涉及到力学模型、机械原理、系统参数识别、控制算法等多种学科。就控制来说，包括两个问题：工作平衡点的控制和摆起的控制。采用模糊控制和最优控制等方法已经获得平衡点的控制，但是倒立摆的摆起过程(倒立摆的过渡过程)是复杂的强非线性动力学系统控制问题，控制律的确定要采用数值方法，由于最优控制理论的数值迭代算法难以获得理想的开环控制律，因此确定有效控制律的计算方法是过渡过程控制的关键问题。 目前倒立摆问题的研究有两个大的方向，一个是在平衡点的控制方面朝着多级化的方向发展，已经有成功的四级倒立摆平衡点的控制的例子；二是对摆起问题的研究，着重是在算法与实现等方面。 本课题主要研究了滚轮式倒立摆复杂多变量非线性系统的摆起控制和平衡控制的算法与实现的问题，提出了动态设计变量优化算法的控制律计算方法。 基于拉格朗日方程、达朗贝尔原理，建立了滚轮单级、二级倒立摆非线性系统的微分方程，为摆起和平衡控制非线性系统的动力学特性分析和控制提供了力学模型，并对摆杆的阻尼参数进行参数识别，结合具体实验测试的信息，建立了确定单摆阻尼参数的优化方法。并通过具体的数据获得了精确计算阻尼参数的程序，其研究结果为复杂系统的过程控制和精确分析提供合理的依据。 在分析了几种常见的针对非线性系统的优化控制算法的基础上，提出了摆起开环控制律动态设计变量的优化算法，并对滚轮式单级、二级倒立摆摆起控制律的计算进行了程序的验证和结果的仿真。通过对滚轮单级倒立摆在平衡位置附近的线性化，分析了可控性和可观性，采取了输入的状态全反馈的优化算法，成功的实现了滚轮单级倒立摆系统线性模型和非线性模型的平衡控制。 本文主要以动态设计变量优化算法对滚轮式倒立摆的过渡过程进行研究，通过具体的理论分析、数值模拟和仿真，说明这种算法对于强非线性系统的过程控制是有效的。