毫米波技术和大规模多输入多输出系统(Massive MIMO)的集成可以增加可用带宽并且提高频谱效率,被认为是未来无线通信系统最有前景的技术之一。但是,由于毫米波频段射频链路功耗很高,这使得功耗成为毫米波大规模MIMO的主要瓶颈。为了降低毫米波大规模MIMO所需的射频链的数量,本文对低射频收发机结构进行研究。首先,模拟波束赋形可以减少基站(BS)和用户所需的昂贵的射频(RF)链的数量。并且,基于码本的模拟波束赋形通常用于补偿毫米波信号的严重衰减。然而,传统的波束赋形方案涉及在预定义的码本之间进行的复杂搜索。为了降低搜索复杂度,同时最大程度地提高系统可达速率,我们提出了一种基于改进粒子群算法(IC-PSO)的波束赋形算法,使用改进的粒子群算法(PSO)更智能的确定模拟预编码矩阵和模拟合并矩阵。仿真结果表明,与最优的全搜索(FS)算法相比,所提算法可以低得多的复杂度实现近乎最佳的系统性能。混合模拟和数字的波束赋形(混合预编码)能够有效应对多流传输并进一步提高系统能效。并且可以在硬件复杂度和系统性能之间达成有效的折中。为此,本文又深入研究了多流传输的混合预编码结构,进一步提出了基于改进群体增量学习算法(MPBIL)的多用户混合预编码算法。本文在基于开关和反相器(SI)的新型毫米波大规模MIMO系统架构中引入改进的群体增量学习算法(PBIL)来确定混合预编码矩阵。仿真结果表明,与其他传统混合预编码算法和现有的其他机器学习算法相比,在大规模天线阵列下所提的MPBIL混合预编码具有更低的计算复杂度和更高的能量效率。