高速铁路、地空通信等快衰落散射通信会带来接收信号的相位快变,此时,能够精确、实时的估计和均衡快变信道并进行可靠的通信传输则显得尤为重要。本文针对大多普勒频移快衰落信道条件下相干MIMO（Multiple-Input Multiple-Output,MIMO）通信存在的信道状态信息（Channel State Information,CSI）估计难度大、实现复杂度高的问题,研究了仅依赖于慢变信道幅度状态信息的低时延敏感度、低实现复杂度的非相干MIMO通信机技术。非相干MIMO技术是相干MIMO通信的有力补充,对信道估计以及同步的要求不高,在减少导频污染、降低系统复杂度、提高频谱效率和信道利用率等方面具有优势。本文设计了采用平方律非线性处理的非相干MIMO系统,将系统等效为实线性模型,接收端通过信道幅度增益估计进行信号处理,保证链路可靠性的同时提高了系统的空分复用增益。此外,为了进一步获得视距环境（Line-Of-Sight,Lo S）下更大的空分多址能力以及多址接入容量,对大规模MIMO（Massive MultipleInput Multiple-Output,Massive-MIMO）蜂窝网络体制下的非相干多用户MIMO（MultiUser Multiple-Input Multiple-Output,MU-MIMO）进行了探讨。论文的工作主要集中在以下几个方面:1、引入了平方律非线性处理技术,从快衰落环境对信道相位和幅度的影响出发,分析了快变信道下对多普勒频移不敏感的非相干MIMO系统并介绍了传统的单用户MIMO、MU-MIMO、Massive-MIMO。进一步分析了高铁、地空无人机等高移动环境下非相干MIMO系统的典型莱斯信道特征以及远场MIMO的信道传输特性。2、针对非相干MIMO在快变信道下的高可靠、大容量通信问题,设计了高移动环境中具有良好多普勒鲁棒性的能量检测MIMO-MFSK（Multiple Frequency Shift Keying,MFSK）系统。平方律非线性处理后系统等效为实线性模型,对线性模型下系统的统计特征以及检测性能进行了分析,探讨了伴随多天线联合最小欧式距离检测的信号依赖的噪声问题。3、能量检测MIMO-MFSK系统所面临的核心问题在于非线性处理引入的多天线交叉项乘积干扰,该互扰影响了系统的检测性能以及空分复用增益。对此,设计了可消除天线间非线性互扰的能量差检测MIMO-FSK（Frequency Shift Keying,FSK）系统,解决了能量检测系统的维度扩展问题。为了进一步消除用户间以及天线间的互扰,对Massive-MIMO蜂窝体制下的空时多用户预编码进行了研究。