随着智能手机的发展,各种新的业务如雨后春笋般爆发,智能硬件,物联网,互联网医疗,虚拟现实等技术无疑对通信技术提出了新的要求,传统的4G通信系统在系统速率,时延和可靠性等指标上都难以满足新型业务日益增长的需要。许多国家、公司和科研组织都在加快对下一代通信技术(5G)的研究。由于无线电频率属于宝贵的不可再生资源,并且环保组织对于降低能量消耗的呼声越来越高,作为下一代通信系统的关键技术,大规模MIMO技术能够在显著的提高系统的频谱效率和能量效率,是目前无线通信领域里的研究热点之一。针对大规模MIMO实际部署中会遇到的实际问题,我们主要研究了以下两方面:第一、针对系统的能效问题:我们考虑了在基站实际部署中的天线选择问题,对MIMO系统的天线选择算法和已知的大规模MIMO系统的天线选择算法进行了深入的调研,并提出了一种基于遗传算法并联合启发式波束赋形联合优化的天线选择算法,并对该算法的性能进行了仿真和分析。第二、针对系统的复杂度问题:我们考虑了在大规模MIMO传输技术中的预编码技术。虽然线性预编码方案能够获得近似非线性预编码的方案,并且降低了预编码方案实现的复杂度。但是对于大规模]MIMO来说,由于基站端部署天线数较多,即使是线性预编码,依然会给系统带来难以想象的计算复杂度,针对线性预编码方案中复杂度最高的矩阵求逆部分,在深入调研当前降低对信道矩阵求逆的算法后,提出了一种基于Cholesky分解的低复杂度矩阵求逆算法,并对该算法的性能进行了仿真验证与分析。