随着无线通信技术的发展以及人们对于无线资源依赖程度的提升,现有的频谱资源日益紧张。作为5G移动通信关键技术之一的频谱共享技术,能够有效提升频谱利用率。另一方面,多天线技术可以把多径衰落的缺点转化为优点,大大提高了接收信号的质量和数据传输速率,来满足5G超高的用户体验速率。本文将深入讨论频谱共享技术与MIMO技术的联合应用场景,在满足主用户中断概率限制条件的前提下,利用不同的协作模式,既实现主用户与次级用户的频谱共享,又有效地提升次级用户的传输速率。本文首先介绍了5G移动通信系统中频谱共享技术的发展、愿景与分类,接着对协作频谱共享中的协作模式以及多用户MIMO等理论知识进行了阐述,并对不同的协作模式与不同多用户MIMO预编码方案进行了性能比较。然后,在假设已经完成中继选择的基础上,对只有一对主用户的发射机和接收机存在的场景,本文首先研究了联合优化时隙与频带因子的协作模式。在保证主用户的中断概率低于给定门限的前提下,所提算法能求得最优的时隙及频带分配因子,以最大化次级用户的传输速率。然后,基于同样的场景,考虑一个装备多根天线的次级用户发射机作为中继的场景,利用多用户MIMO为主用户和次级用户接收机进行服务。在保证主用户的中断概率低于给定门限的前提下,以最大化次级用户传输速率为目标,进行多用户MIMO场景下的功率分配策略。与现有的功率分配算法相比,所提的频谱共享方案能够满足主用户的通信需求,并能提升次级用户系统的传输速率。并且随着发射天线数目的增加和次级用户数目的增加,次级用户系统的通信性能也得到了进一步的提升。最后,针对次级用户节点具有移动性的场景,本文研究了在协作频谱共享场景下的中继选择问题。在中继选择的过程中,各个次级用户装备不同数目的天线,采用不同的协作模式并有不同的移动速度和运动方向。在保证主用户的中断概率限制的前提下,以中继激活时间与预测数据传输速率的乘积最大化为目标函数,提出了一种中继选择算法。仿真结果表明,对于拥有不同天线数目、服务次级用户接收机数目和不同移动速度的次级用户,该中继选择算法总能找到满足条件的中继节点,满足主用户的通信需求,并提升次级用户传输速率。随着备选中继节点数目的增加,次级用户系统的传输速率也得到了进一步的提升。