无线通信技术的迅猛发展驱动着移动通信和互联网的结合,并取得了长足的发展与进步,面对未来通信场景中数据流量的增长、海量的终端设备、各类新型场景业务的层出不穷以及超高数据传输速率等需求,第四代移动通信系统已经无法满足。大规模多输入多输出（Multiple Input Multiple Output,MIMO）技术能够在不增加带宽的前提条件下以具备提高传输速率,增加系统容量和提升频谱效率的特点成为了未来移动通信系统的关键技术。本文围绕大规模MIMO多天线信道建模展开研究,深入探讨了MIMO天线阵列,天线平均相关性和信道容量等分析MIMO多天线系统模型的统计信道特性,以及基于几何散射簇模型研究了大规模MIMO的非平稳特性,研究了空时相关函数和系统性能,通过对不同数据的仿真对比分析,验证了所提出模型的有效性。本文具体的工作内容分为以下三个方面:首先,在大规模MIMO系统中,针对传输场景中到达方位角（Azimuth Angles of Arrival,AAo A）和到达仰角（Elevation Angles of Arrival,EAo A）分布的复杂性,提出了一种空间相关函数,再对这种分布下的信道进行建模。针对典型的均匀线性阵列（Uniform Linear Array,ULA）的天线布局建立了一个三维（Three Dimensional,3D）几何信道模型,并在该模型的基础上研究了大规模MIMO系统天线的平均相关性和信道容量。基于统计物理信道模型,推导了到达方位角和到达仰角之间的关系,分别使用平面波（Plane Wave,PW）和球面波（Spherical Wave,SW）模拟远场效应和近场效应,同时分析了模型参数对大规模MIMO系统性能的影响。仿真结果验证了所提出模型的有效性,该模型易于实现,可通过通信环境进行调整。接着,考虑到在大规模MIMO系统中,由于天线空间的限制,大量的天线很难放置在有限的空间中,使得天线之间的空间相关性很高,进一步导致了系统的性能下降。引入多极化天线应用于大规模MIMO系统,可以通过降低天线之间的相关性提高系统性能,实现空间效率的有效利用,以此建立了一个三维多极化大规模MIMO信道模型。本模型考虑了交叉极化鉴别度,天线数量,天线倾角等参数对系统性能的影响,并比较了多极化大规模MIMO系统与单极化大规模MIMO系统在不同通信场景的性能。研究结果显示多极化大规模MIMO系统比单极化大规模MIMO系统具有更好的性能表现。最后,针对大规模MIMO信道的近场效应和非平稳特性,提出了一个基于散射簇的大规模MIMO信道模型。在所提出的模型中,接收信道由视距（Line of Sight,LOS）传播分量和经过散射簇的非视距（Non-Line of Sight,NLOS）传播分量组成,同时引入了混合的生灭过程和可见区域法来描述信道的非平稳特性。研究了簇的非平稳特性对MIMO信道的影响,包括空间互相关函数（Cross-correlation Function,CCF）和时间自相关函数（Auto correlation Function,ACF）。然后提出了一种有限条射线的仿真模型,将仿真数据与理论模型对比验证,数值分析结果表明所提出的信道模型可以有效描述大规模MIMO的非平稳特征。