倒立摆作为一个多变量、非线性、不稳定的典型系统，是控制领域重要的研究对象，是验证各种控制算法的理想模型；很多抽象的概念如系统的稳定性、可控性、可观性、鲁棒性和系统的抗干扰能力等，都可以通过对倒立摆的控制直观的表现出来。针对倒立摆控制方法的研究对两轮自平衡小车及其它相似实验设备的开发都具有重要的研究意义。本文通过对直线一级和二级倒立摆物理模型的分析，介绍了拉格朗日建模方法并分别对其进行数学建模；然后提出了基于MATLAB软件的SimMehanics工具箱的建模方法，建立了直线一级和二级倒立摆的机构模型，经过对比分析，这种方法相比牛顿力学原理和拉格朗日方法更加方便、快捷、准确。基于直线二级倒立摆的SimMehanics模型，本文在介绍了直线倒立摆的不同控制方法，提出了一种基于卡尔曼滤波的LQR控制算法，采用卡尔曼滤波器作为观测器来观测系统的实时状态，对系统输出作最优估计，从而达到抑制噪声的目的；经过实验对比，这种复合控制优于单独采用LQR时的控制效果，并能很大程度的降低系统噪声和测量噪声对倒立摆稳定性的影响。在控制理论课程的教学中，可采用虚拟现实技术作为辅助手段来实现倒立摆的实时控制。利用VRML建立倒立摆系统的虚拟现实场景，并使动力学模型驱动虚拟现实场景；在与控制器进行集成后，利于MATLAB/RTW工具箱生成实时运行的仿真程序；生成系统运动的三维动画，将原来抽象、枯燥的学习内容，用图像、动画和声音等多种媒体表现形式展现在课堂上，提高了控制理论的教学质量，有利于促进教学的改革。直线一级倒立摆系统与两轮自平衡小车十分相似，通过对直线倒立摆系统的研究，将其理论应用在两轮自平衡小车上，给出其硬件模块化设计方法和控制方案，并在实际实验中验证了此方案的可行性和有效性。