随着社会、经济的快速发展，电网的结构越来越复杂、规模越来越庞大，因此人们越来越重视电力系统安全、稳定、经济的运行。晶闸管可控串联补偿装置（TCSC）作为一种柔性交流输电装置，具有快速连续调节线路无功补偿度及运行电压，提高电力系统稳定性的作用，因此应用先进控制方法对其进行有效地控制对电力系统稳定运行具有重要意义。本文研究了带有TCSC的单机无穷大电力系统的暂态稳定性问题，基于Lyapunov理论和backstepping方法设计了TCSC非线性控制器。在控制器的设计过程中，考虑到实际的TCSC受电容器过载能力、可控硅触发角度(不允许在谐振点附近运行)、金属氧化物压敏电阻器（MOV）过电压保护以及谐波电流等限制控制输入量是具有约束的，首先通过引入一个辅助系统和Nussbaum增益函数解决了控制输入量具有约束问题，设计了输入有界的TCSC非线性控制器，所设计的控制器在保证闭环系统稳定的同时能使系统的控制输入增益始终保持在实际约束的范围内。然后，在此基础上进一步考虑了实际电力系统中阻尼系数不易精确测量，故将其视为不确定参数，通过将backstepping设计方法和参数估计、直接模糊等方法相结合设计了自适应约束控制器。最后，通过引入K类函数，应用改进的backstepping方法，在保证系统控制输入量在约束范围内的同时，使系统的状态收敛速度更快，振荡幅值更小，从而改善了系统的暂态响应性能。并且分别对上面所设计的控制器进行了仿真实验，仿真结果显示了所设计控制器的有效性。