在无线通信链路的收发两端布置多根天线可构成多入多出(Multiple Input Multiple Output,MIMO)无线通信系统,其可在不增加系统带宽和天线发射功率的前提下,有效地抑制信道的多径衰落、提高数据传输速率和系统容量。因此,MIMO已经成为下一代移动通信物理层的核心无线传输技术。目前,关于点对点单用户MIMO系统信号处理与空时编码理论与方法的研究成果已日趋丰富。但是,在实际无线通信系统中,需要解决的关键问题是多用户通信容量与质量的提升,比如蜂窝移动通信系统中一个基站同多个移动台进行通信的情形,或无线局域网(Wireless Local Area Networks, WLAN)、无线城域网(Wireless Metropolitan Area Networks, WMAN)中多用户设备与无线接入点之间的通信情形。MIMO相关理论与技术在多用户无线通信场景的应用还需要解决从系统容量到链路传输,从空时编码方法到媒质接入协议等多方面的问题。这些问题较单用户MIMO系统更为复杂。本文主要对多用户MIMO上行链路的空时/频编码方法、随机接入协议、信号检测技术进行了深入的研究。本文的第一章概述了多用户MIMO的研究现状,介绍了全文的主要内容和背景知识。本文的第二章主要研究了上行多用户MIMO中的多用户联合空时/频编码的设计方法,分析和仿真了其系统性能。传统的空时/频码主要是针对单用户系统而设计,若应用至多用户MIMO系统中,则会导致性能的损失。本章研究了MIMO-OFDM系统中的一种基于信号空间分集技术的多用户空频编码准则,详细讨论了其性能,并将其推广至多用户MIMO-SC-FDE(SC-FDE:Single-Carrier Frequency Domain Equalization,单载波频域均衡)系统中,提出了一种新的多用户MIMO-SC-FDE系统模型。仿真结果显示,这种类型的多用户MIMO-SC-FDE系统比起传统的多用户MIMO-SC-FDE系统能获得更低的误码率,从而可以提高物理层的可靠性。随着多用户MIMO技术在无线通信物理层技术框架中的发展,对相应的媒质接入协议也提出了挑战。因此,本文的第三章先研究了适合上行多用户MIMO的一种高吞吐量随机接入协议,可用于基于空时码的二发二收多用户MIMO系统。然后,在第二章研究多用户联合空频编码和单用户空频编码的基础上,提出了一种新的二发二收多用户MIMO空频ALOHA随机接入协议,并将该协议延伸至用户配对和基站有任意根接收天线时的情形,提出了另外两种拓展的多用户MIMO空频ALOHA随机接入协议。仿真结果和理论分析均表明,这三种空频ALOHA随机接入协议均能获得比较高的吞吐量,从而可以提高系统的有效性。多用户MIMO技术对接收机算法也提出了严峻的挑战。本文的第四章首先针对贝尔实验室垂直分层空时(Vertical-Bell Lab Layered Space-Time, V-BLAST)系统研究了相应的信号检测技术,并将V-BLAST系统与多用户MIMO系统进行对照,考虑上行多用户MIMO中的两种具体情况,即每用户单根发射天线与每用户两根发射天线,进一步设计了上行多用户MIMO的接收机。最后对多用户MIMO的接收机性能进行了计算机仿真研究。仿真结果显示,基于球形译码(Sphere Decoding, SD)的多用户检测器可获得最优的检测效果,最小均方误差干扰抵消(Minimize Mean Square Error Succesive Interference Cancellation, MMSE-SIC)多用户检测器和迫零干扰抵消(Zero-Forcing Succesive Interference Cancellation, ZF-SIC)多用户检测器亦能获得比较好的效果。本文的最后一章总结了全文的贡献,指出了未来上行多用户MIMO的一些研究方向。