目前,人类对通信技术中连通量及传输速率方面都有迫切追求,显然4G已经不能满足要求,所以5G关键技术已成为如今研究的热点。同时,大规模多输入输出(Massive-MIMO)与毫米波频段相结合是5G关键技术之一。毫米波的短波长使得天线尺寸减小,有利于大规模天线阵列的使用,而大规模MIMO的使用可以有效地增加阵列增益,减小毫米波衰落严重的问题,可见两者相辅相成,为即将到来的5G技术提供了有力的推动力。因此,两者的结合有效地提高系统容量及频谱资源利用率,并且毫米波的应用有效地解决了天线尺寸以及天线空间相关性问题。但是毫米波技术在很多方面都处于初级阶段,尤其是在信道模型、信道估计、天线阵分布结构、混合预编码等方面。本文分析多用户系统下基于块对角化(BD)的混合预编码,并提出模拟域基于迭代算法的混合预编码。对于基于BD混合预编码分别仿真了频谱效率随信噪比、数据流数及用户数变化情况,并对毫米波信道和瑞利信道进行仿真对比,对均匀线性和均匀平面阵列进行仿真分析。仿真结果显示基于BD的混合预编码在节省硬件设备和功率损耗的同时,频谱效率接近甚至超过全数字预编码。对于基于模拟域迭代算法的混合预编码,分析了数字域分别采用了 MRT、ZF和BD三种预编码方案,并通过仿真比较出三种数字预编码方案中在小信噪比下MRT性能较好,中高信噪比下BD算法更优,当只采用模拟域的迭代算法时性能近似于最优情况。研究毫米波大规模MIMO系统采用集中式和分布式天线结构性能。推导了集中式和分布式下分集增益公式,显示了分布式相比集中式分集增益或复用增益线性增长的潜力。随后对毫米波大规模MIMO分布式和集中式系统的频谱效率进行仿真对比。单用户系统中采用基于正交匹配滤波算法(OPM)混合预编码方法,多用户则采用基于BD的混合预编码方法。仿真结果表明在单用户系统中分布式系统并非在所有情况下优于集中式,与数据流数、分块数有密切的关系,而多用户系统下的分布式优于集中式结构并且可达速率随着分布数的增加而增加。