随着现代无线移动通信的发展,高速可靠的多业务通信对带宽利用率和传输性能的要求越来越高。然而随着传输速率的提升,无线传播环境变得愈加恶劣,信号衰落愈加强烈；加之频谱资源越来越有限,使得寻求新的通信技术,进一步提升无线移动通信的传输性能,以实现传输速率高、可靠性能好的数字传输成为当前无线移动通信的首要研究任务。MIMO和OFDM技术是下一代移动通信的关键技术。MIMO-OFDM技术结合了两者各自的优势,使得系统的容量和频谱利用率大大地提升,这决定了该技术将是未来移动通信技术的核心。本文在国内外相关研究工作的基础上,搭建了相关通信系统模型,针对MIMO-OFDM系统中的几个关键技术进行了深入的分析研究,特别是在分集技术、多载波CDMA技术、预编码技术、多用户调度技术及跨层资源分配等方面,并结合MATLAB进行了相关实验仿真。本文首先搭建了基于STBC的MIMO-OFDM系统模型；并与CDMA技术结合,搭建了STBC-MC-CDMA系统模型,在该系统中引入混沌序列作为新的扩频序列取代伪随机序列,通过实验仿真证明了混沌序列作为扩频序列的优越性；介绍了理想信道状态信息(CSI)和非理想CSI两种情况下多用户MIMO系统的预编码技术和原理,并分别做了实验仿真分析；提出了一种在多用户OFDM系统中基于Hopfield神经网络(HNN)的抗时延敏感性跨层资源分配方案,设置用户调度优先级时分别考虑物理层的CSI和功率限制,以及MAC层的业务数据到达特性、队列状态信息、用户时延要求等,采用神经网络算法,最大化系统容量的同时降低了平均时延和丢包率。