移动设备数量的急剧增加以及无线多媒体业务的发展导致数据传输拥塞也越发严重。用户对于通信质量以及系统容量的要求也随之提高。第五代移动通信技术将于2020年投入商用,毫米波通信以及大规模天线阵列作为5G的核心技术,应用也日趋广泛。信道估计是影响系统通信质量的重要因素。在信号传输过程中,经常会由于折射、散射等而产生多径效应。同时毫米波通信通常容易受雨衰等环境影响,路径损耗严重,路径数量较少。在大规模天线阵列系统中,全数字结构使得计算复杂度提高,硬件开销增大。在信道估计过程中,也同样面临高维度的信道矩阵计算开销,训练序列负载以及较高的信道估计复杂度。因此考虑采用参数化的信道建模方式,对信道中的多径数量、各路径上的角度信息以及增益信息等进行估计来还原完整信道信息以降低估计复杂度。同时采用模数混合结构以及新型天线排布形式来减少射频链路的数量,降低硬件开销。在本课题中,首先设计了基于毫米波通信模数混合结构的信道估计算法。通过调节模拟端移相器进行码本设计,每个子阵生成不同指向的波束,接收端进行多次多波束扫描直至覆盖全向范围。通过对各波束上的接收功率进行分析估计路径数量以及每条路径上的来波角度粗略值。本课题将和差波束算法应用于多路径场景下角度精细过程中,通过波束赋形生成零陷的方法降低不同路径之间的干扰,达到路径分离的效果。为提高估计精度,采用和、差波束互相关与和波束自相关比值代替传统和差波束算法中直接求取差、和波束之比的方法。建立优化模型,通过多次角度估计并不断更新角度集合的方式进一步提高角度估计精度。利用最小二乘算法估计路径增益。使用模数混合结构可以有效降低射频链路使用数量,该算法将和差波束算法应用到多路径场景下,通过建立优化模型的方式进一步提高角度估计的精确度,从而更精确的估计出完整的信道状况。本课题同时考虑毫米波背景下,基于透镜天线的模数混合阵列中的信道估计方法。利用透镜天线的特性,绘制功率分布图,通过设定阈值对路径数量进行估计。进一步分析功率分布情况,选取用于估计每条路径上的角度信息的天线。通过开关控制射频链路连接情况,并分时隙对信号进行接收。利用基于谱估计的方法对每条路径上的来波角度信息进行精确估计。增益信息通过最小二乘算法进行估计。将透镜天线与模数混合结构相结合,减少射频链路数量和硬件开销。相比于其他信道简化的透镜天线信道估计方法,该算法很大程度上提高了信道估计的精确度。