随着移动业务数据的爆炸性增长,通信系统需满足更大的容量和更高的传输速率。由于大规模MIMO(Multiple input multiple output)系统能从多天线阵列的波束赋形和空间复用得到更大的增益和系统容量,故使得大规模MIMO技术成为下一代无线通信的一个重要研究方向。以毫米波大规模MIMO系统为例,由于传输频率高,极易受到阴影的影响,散射体的数量有限,故其不遵循传统的富散射模型。根据大规模MIMO系统在时域和角域均稀疏的传输特性,建立统计信道模型和设计信道的估计方法就显得尤为重要。本文基于大规模MIMO系统建立了时域角域双稀疏多径信道模型,并用基于压缩感知和迭代重测的超分辨率方法进行信道估计。主要的研究工作概括如下:(1)基于无线通信的物理信道,分析了大规模MIMO系统的角域特性,得出窄带MIMO信道的角域表示。然后研究了不同角度信号的空间特征图的相关性,角域窗口对天线间隔的依赖性,窄带MIMO信道的角域增益及抗干扰性,仿真结果表明随着系统中天线的增多,角度域的分辨力及抗干扰能力都得到增强。最后建立了大规模MIMO宽带系统中时域角域双稀疏的多径信道模型,以此作为后续研究信道估计方法的基础。(2)设计了基于压缩感知的双稀疏多径信道的估计方法。在大规模MIMO宽带系统中,信道为时域且角域稀疏,本文利用OMP算法分别对时域和角域进行去噪。实验结果表明,考虑信道传输时时域和角域的双稀疏性,通过两次去噪,比传统的仅考虑时域稀疏的信道估计方法性能更优,抑制噪声的能力更强。另外还仿真分析了不同稀疏度和不同天线数对信道恢复性能的影响。(3)设计了基于迭代重测的超分辨率双稀疏信道估计方案。在MIMO-OFDM系统中,每个子载波信道可视为窄带信道。本文采用最优化方法,将路径角度的估计值从初始在角域网格上,逐渐修正到其实际角域位置,实现超分辨率信道估计。且信道增益太小的位置通常仅为噪声,通过迭代地修剪,估计的稀疏度水平将逼近实际路径数量。仿真结果表明,该算法在一定的条件下会进一步增加信道估计的精度。