多输入多输出（Multiple Input Multiple Output, MIMO）技术由于其可以有效提高系统的频谱利用率和容量，从而明显提高数据传输速率的优势而广泛应用在各种无线通信系统之中，例如3GPP LTE/LTE-Advanced、IEEE WiMAX和WLAN等。然而在MIMO技术的实现上，上行MIMO的实现受到终端尺寸和复杂度的限制，在终端上配置多根天线难以实现，因此人们考虑引进一种虚拟MIMO（Virtual MIMO, V-MIMO）技术。V-MIMO技术允许两个或者两个以上的终端在相同的时频资源上同时传输，这样在基站端看来，多个单天线终端组成了多天线从而与基站的多天线组成了MIMO结构，利用空间分集和空间复用，提高了上行通信的可靠性和系统容量。V-MIMO技术的关键在于调度方案的选取，也就是如何选择共信道用户，这直接影响到V-MIMO系统的性能。因为多用户MIMO系统的性能都受到用户间干扰的限制，正确选择用户使得用户间干扰最小，可以增加V-MIMO系统的频谱效率，相反，不正确的选择方式可能使系统的性能反而不如单输入多输出（Single Input Multiple Output, SIMO）传输。波束赋形（Beamforming）技术也是一种能有效地抑制干扰，提升无线通信系统容量和误码性能的传输技术。波束赋形的原理在于使用户的数据在传输过信道之前乘上预编码向量，或者接收到的用户数据在进行处理前乘上接收波束赋形向量，这样使得基站发送或接收某用户的数据时主瓣对准该用户信道方向，而零值点对准其他各干扰用户。对于下行发送波束赋形用户接收到信号后采用一定的合并方式便可以提取出有用信号，而上行接收波束赋形也是一种多用户检测（Multiple User Detection, MUD）技术，基站通过接收波束赋形从多个用户的混合数据中提取出特定用户的数据。通过合理的波束赋形向量设计，用户间的共信道干扰可以得到有效的消除或减弱，因此该技术已经作为IEEE802.16e标准的一部分，同时也被LTE-Advanced标准所采用。本文将多用户MIMO系统用户调度和波束赋形两个方面联合进行研究，主要工作如下：首先从上行和下行两个角度总结分析了现有多用户MIMO用户调度和波束赋形技术的研究现状，并对现有问题进行了分析。其次对于多用户上行V-MIMO通信，针对影响其系统性能的关键技术——用户调度，基于其系统模型研究总结了几种传统的用户配对算法。在分析传统算法仅支持调度两个用户而不能充分利用MIMO信道空间复用的基础上，对各算法进行了多用户调度扩展，并与传统算法作了仿真对比。然后基于多用户MIMO上行，结合SINR计算公式提出了两种用户调度和接收波束赋形联合设计的算法，对其原理及算法流程进行了详述，最后将这两种算法与其他算法进行对比，得出了所提算法所适用的应用场景。最后基于多用户MIMO下行，对已有算法进行改进，提出了一种基于有限反馈多用户MIMO广播信道的连续预编码和用户选择算法，给出了推导的详细过程和算法流程，并与其他算法进行了仿真对比，结果证明了所提算法在一定系统条件下的优势。文末对全文进行了总结，并提出下一步的研究工作。