大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统具有发射功率小,波束宽度窄,角度分辨率高等优势,自提出以来就得到广泛关注。为了在接收端正确的恢复出原始信号,需要获取精确的信道状态信息。信道估计主要包括对发射角,接收角和衰落系数的估计。现有的一些角度估计算法通常假设真实角度在人为划分的网格点上,一旦角度偏离网格,估计精度将大大下降,因此研究网格失配下的大规模MIMO系统角度估计算法具有重要的意义。本课题为了解决网格失配问题,提高算法在低信噪比下的角度估计性能,提出相应改进算法,具体研究内容如下:首先,总结了国内外角度估计算法的研究现状,介绍了大规模MIMO系统的结构,均匀线阵条件下的信道建模以及接收信号模型。在此基础上,分析了基于子空间和压缩感知技术的角度估计算法,并对两种算法的性能进行了仿真验证。然后,从算法的估计精度考虑,提出两种基于泰勒展开的网格补偿算法。针对天线数较多的情况,提出一种基于离散傅里叶变换和一阶泰勒展开的快速网格补偿算法。该算法首先设计预编码矩阵为离散傅里叶变换矩阵,估计出粗网格点上的初始角度。接着将导向矢量一阶泰勒展开,利用信号子空间和噪声子空间的正交关系构建目标函数,求取网格偏差。该算法运行时间短,处理速度快,但是当天线数较少时频谱泄漏较为严重,会影响算法的收敛性和估计精度。为了进一步提高系统精度和鲁棒性,提出一种基于多重信号分类和二阶泰勒展开的高精度网格补偿算法。该算法首先利用多重信号分类算法估计初始角度,接着将导向矢量二阶泰勒展开,通过构建和发射角,接收角网格偏差有关的联合目标函数,补偿网格偏差。与基于离散傅里叶变换和一阶泰勒展开算法相比可以实现更高精度的角度估计,且不存在频谱泄漏问题。但是当天线数较多时,该算法二维谱峰搜索求取初始发射角和接收角的运行时间较长。仿真实验与分析验证了所提两种算法的有效性。最后,为了提高低信噪比下算法性能,提出一种基于原子范数的无网格化角度估计算法。首先利用改进的多测量向量原子范数重构出含有噪声较少的信道矩阵,接着引入改进的降维酉旋转不变角度估计算法,降低了特征值分解的复杂度。所提算法实现了无网格化的角度估计,同时在低信噪比下估计精度更高。理论分析与仿真结果证明了所提算法的性能。