近几年来,随着时分复用、频分复用、码分复用技术的不断发展,信道容量的增加已经变得十分的困难。而智能天线凭借其特有的空间滤波特性,使空分复用技术得到了实现,使信道容量再一次获得了提升。波束形成技术作为智能天线的核心技术,主要就是通过波束形成器来调节天线阵每个阵元的权值,从而使加权网络的输出可以根据时变信道的变化达到最优。本文在介绍智能天线的基本概念、数学模型以及自适应波束形成技术的工作原理的基础上,分析研究了智能天线自适应波束形成算法中常用的几种最佳收敛准则以及现有的波束形成算法,并对应用最广的变步长最小方均(LMS)算法提出改进。改进的变步长LMS算法的步长随着迭代误差的减小不断减小,并与误差呈双曲正切函数关系,新算法在保证了收敛速度和时变跟踪能力的同时也获得了更佳的稳态性能。随后本文又针对实际应用情况中存在阵列误差的情况,分析讨论了几种常用的稳健波束形成算法,并对其中的特征子空间(ESB)算法进行了改进。改进的ESB算法基于特征差值准则对存在相干信号时的信源数做出判断,并根据正确的信源数来构造信号子空间和噪声子空间。仿真结果证明了本文算法在相干环境和低信噪比环境下的优势和有效性,在一定程度上克服了ESB算法不能在相干环境以及低信噪比环境下应用的情况,使ESB算法获得了更为广泛的应用前景。