移动互联网和物联网的迅猛发展驱动着无线通信系统的发展、调整和变革。第四代移动通信系统已经无法满足爆发式增长的移动用户和未来的物联网需求。对于低延迟、高速率和高频带的5G技术而言,大规模MIMO（Massive MIMO）技术是突破这一瓶颈的关键技术。本文主要研究了大规模MIMO在不同配置以及不同场景下的空间衰落相关性（Spatial Fading Correlation,SFC）、信道容量及其非平稳特性。本文分别采用线性阵列（Linear Array,LA）、环形阵列（Circular Array,CA）以及均匀平面阵列（Uniform Plannar Array,UPA）,基于几何随机散射簇模型,采用经典角度功率谱分布PAS（Power Azimuth Spectrum）,引入俯仰角因子,研究其空间衰落相关性和系统性能。并且构建一个改进的随机散射簇3D信道模型,分析了大规模MIMO的非平稳特性。本文的工作主要分为以下三个方面进行:首先,本文基于Saleh-Valenzuela（SV）散射簇模型,建立了二维平面大规模MIMO信号接收模型,对大规模MIMO中经过散射簇的波达信号阵元之间的相关程度进行数学表征,推导出单位距离的空间衰落相关函数,假定不同环境下波达信号角度功率谱分别为均匀分布、高斯分布、拉普拉斯分布,进一步得到大规模MIMO配置线性阵列（Linear Array,LA）和环形阵列（Circular Array,CA）的空间衰落相关函数的闭合表达式,同时针对波达信号小角度扩展时,提出了在三种经典PAS下的近似算法。计算机仿真了大规模MIMO在不同配置下的系统容量,同时比较了近似算法和精确分析的性能,结果符合实际,具有一定的现实意义。接着,针对城市环境电磁波波非水平面传播特性,本文基于SV散射簇模型引入俯仰角因子,拓展了一个三维散射簇信道模型。出于计算效率,本文采用Von-Mises分布代替3GPP模型中采用的Wrapped Gaussian分布并通过仿真证明两者在簇内拓展因子较小时具有相似的分布。推导均匀平面阵列（Uniform Plannar Array,UPA）各阵元空间衰落相关系数的解析表达式,建立MIMO多天线系统模型,研究了仰角功率谱中不同角度扩展对均匀平面阵列衰落相关性和信道容量的影响。仿真结果表明均匀平面阵列在蜂窝小区毫米波场景下具有更好的性能。针对大规模MIMO信道的近场效应和非平稳特性,本文提出大规模MIMO基于随机散射簇的非平稳三维空间信道模型。本文提出基于散射簇的有效概率确定收发天线阵元的有效散射簇集合,从而建模散射簇沿天线阵列轴的随机演变来合理描述散射簇的出现和消失。采用抛物波代替球面波建模近场效应,推导系统的空间衰落相关函数等统计特性的解析表达式,分析抛物波条件下该模型的信道容量。将模拟仿真数据与以往模型及数据对比验证,发现采用有效散射簇的随机演变和抛物波前信道建模可以有效描述大规模MIMO的非平稳特征。