大规模MIMO技术是一种新兴的无线通信关键技术,其主要原理是通过在基站侧部署数以百计的天线阵列同时为用户进行服务。在不增加系统额外带宽的条件下,该技术可以显著增加系统容量和提升信道的可靠性,但随着基站天线和用户数量的增加,用户间干扰问题变得越来越严重。在系统下行链路信道中,发射端采用预编码技术不仅能有效地降低用户间干扰和提高系统的频谱效率,而且还能降低用户端接收机的复杂度,使用户端硬件实现更为简单。因此,预编码技术具有很高的研究意义和应用前景。首先,本文在网络拓扑情况下采用空间复用技术,可以在满足用户服务质量(Quality of Service,QoS)的前提下,提高小区能量效率。把大规模MIMO系统和异构网络相结合,由多个发射机的非相干信息波束成型合成为用户所接收的信息。在满足用户QoS为约束条件下,使基站发射总功率最小,从而提高能量利用率。重点改进现有正则化迫零(Regularized Zero-Forcing,RZF)预编码使之可以在大规模MIMO与微小区异构网络中有效使用并且提升系统频谱效率。其次,探讨了大规模MIMO中预编码算法的实现。针对大规模MIMO系统中预编码的实现复杂度随着系统维数变大而增加的问题,提出一种基于截断多项式展开的预编码算法。通过仿真表明算法与传统的RZF预编码相比具有复杂度低的特点。同时基于系统的频谱效率和预编码复杂度,推导出实现算法的最优预编码矩阵。最后,在大规模多小区MIMO系统下,证明导频污染的产生是由大尺度衰落系数决定的,在此基础上采用基站协作方式估计大尺度衰落系数,计算出大尺度衰落预编码。通过仿真证明该预编码算法有利于减少导频污染的影响,提高系统频谱效率。