大规模MIMO(Multiple-Input Multiple-Output)技术做为未来无线通信的核心技术之一,在传输安全性、通信网络速率以及频谱效率(SE)等方面有很大优势,其中频谱效率是衡量大规模MIMO系统性能的重要指标之一。然而随着系统天线数目的增加,硬件的开销也会逐渐增大,为了降低硬件的成本,通常会采用不完美的硬件,因此如何在硬件损伤的情况下保持系统高频谱效率成为目前的研究重点。本文针对大规模MIMO系统中高频谱效率的选择以及硬件损伤对系统频谱效率的影响,主要进行了以下研究。1.针对多用户最小均方误差(M-MMSE,Multicell Minimum Mean-Squared Error)和几种常见的接收组合/预编码方案,分别在上行链路和下行链路中,对系统的平均和频谱效率及性能进行了分析,比较了这几种接收组合/预编码方案的复杂度,选出了M-MMSE、正则化迫零(RZF,Regularized Zero-Forcing)和最大比(MR,Maximum Ratio)三种在高频谱效率和低复杂度之间折衷的接收组合/预编码方案;2.针对大规模MIMO系统的下行链路,在信道非理想的条件下,通过波束成形设计并提出相应的优化算法,研究了大规模MIMO系统接收机损伤和发射机损伤分别对系统性能的影响,仿真结果表明,在非理想信道下,考虑接收机损伤或发射机损伤比不考虑损伤拥有更好的鲁棒性;3.在拥有实际天线数目的大规模MIMO系统上行链路和下行链路中,结合第二部分中发射机损伤和接收机损伤的模型与第一部分中选出的接收组合/预编码方案,研究了硬件损伤对上行链路和下行链路频谱效率的影响,仿真结果表明,硬件损伤越小,系统可实现的和频谱效率就越高,且下行链路中硬件损伤对频谱效率的影响比上行链路更大。