无线组播是一种介于单播和广播之间的业务，通过“一发多收”的传输形式向同一时频资源块上的组播用户发送数据，从而提高频谱效率和扩大系统容量。最近，在实际的公网系统中，组播不仅被广泛的研究，而且在长期演进（Long TermEvolution, LTE）和全球微波接入互操作（World interoperability for MicrowaveAccess,WiMAX）中已经形成了多媒体广播组播业务（Multimedia Broadcast andMulticast Service,MBMS）协议和标准。相比之下，以集群通信系统为代表的专网系统，虽然以组播为主要业务，但发展却相对滞后，而且没有形成统一的行业标准。因此，为缩短差距，实现高质量、高速率、低资源占用率的多媒体传输，在集群系统中借鉴和研究公网中已有的关键技术显得势在必行。在空间域，采用多天线技术，在下行链路进行波束赋形，可以通过空间分集提高组播用户的服务质量和基站的覆盖范围；在时间域，针对组播业务的容量受限于群组内最差用户的信道状态信息（Channel State Information, CSI）这一特性，采用数据重传（Automatic Repeat-reQuest,ARQ）技术，可以通过时间分集兼顾组播容量和用户之间的公平性。因此，本文从时域和空域出发点，针对适用于集群系统下的组播波束赋形技术和终端到终端（Device-to-Device, D2D）技术，展开了以下研究工作：第二章，总结了下行组播波束赋形的基本原理。首先，按照单群组和多群组构建赋形模型；其次，在已知CSI下，遵循服务质量（Quality of Service, QoS）与最大最小公平（Max-Min Fair, MMF）准则阐述组播波束赋形原理，并介绍了半定松弛（Semidefinite Relaxation, SDR）、随机化、以及功率控制等概念；最后，通过仿真，分析组播波束赋形算法的赋形效果。第三章，研究了适用于集群系统下的组播波束赋形方案。首先，针对集群系统，提出基于用户波达角的赋形模型，设计相应的赋形方案；其次，通过仿真分析组播波束赋形与用户角度间隔、用户数、基站天线数、信噪比（Signal to NoiseRatio, SNR）或信干噪比（Signal to Noise plus Interference Ratio, SINR）等赋形参数的关系；最后，提出一种基于用户角度信息的自适应切换赋形方案。第四章，讨论了适用于集群系统下的D2D技术。首先，针对集群下的组播业务，引入D2D技术，构建两时隙传输模型。其次，在分析成功转发（Success to Help,SH）、请求转发（Asking for Help, AH）两种中继选择策略之后，引入终端（UserEquipment, UE）电量信息，提出一种基于能量效率的改进方案：成功用户主动服务（Offering Help, OH），并给出中心式最优方案（Central Optimal, CO）；然后，从牺牲成功率换取数据量的角度出发，设计了一种基于平均电量信息（AverageBattery Information-Based, ABIB）的方案；最后，通过仿真，对比五种中继选择方案的性能。第五章，对全文进行总结并提出未来研究的方向。