随着无线多媒体通信信息的多样化,对频谱资源的需求逐渐增大,但是频谱资源是有限的且不可重生。高效调制在超窄带(Ultra Narrow Band,UNB)调制的基础上提升了解调效率,因而不仅保持了 UNB调制的高频谱利用率,能够很好地改善频谱稀缺的现状,而且具有更高的综合效率。同时随着城市建设快速发展,无线信道越发错综复杂,故探索高效调制无线通信系统传输具有重大意义。本文的研究内容主要是以扩展的二元相移键控(Extended Binary Phase Shift Keying,EBPSK)和多元位置相移键控(M-ary Position Phase Shift Keying,MPPSK)调制技术为代表的高效调制无线通信系统传输,主要从高效调制的常规应用和“插空”传输来渐进展开探究讨论。首先,概述了 EBPSK和MPPSK高效调制基本原理,阐述了高效调制体制的冲击滤波器工作原理和实现方式。在冲击滤波的基础上,给出了基于EBPSK/MPPSK调制的接收机结构框架,并仿真分析高效调制系统在加性高斯白噪声信道下的传输性能。其次,介绍了数字对讲机概念和发展前景,研究分析现有数字对讲机代表DMR数字对讲机的调制解调原理并建模仿真了其物理层收发系统;根据高效调制频谱特性将其应用于数字对讲机通信,提出了一种基于MPPSK调制的新型数字对讲机,并对其收发系统进行了仿真实现,结果表明,基于MPPSK调制的数字对讲机相对于现有其它数字对讲机有高传输码率、高频率利用率以及解调性能佳等优势,在一定程度上改善数字对讲机频谱短缺现状。然后,从AWGN信道扩展到无线通信中的多径衰落信道,研究高效调制的抗多径衰落方法;在平坦瑞利衰落信道下引入插值拟合思想,提出了插值估计衰落因子算法和插值估计判决门限算法,仿真分析表明两种算法都一定程度上提升了高效调制的解调性能;研究了多径信道下基于频域线性均衡的高效调制抗多径算法,结合信道估计,对4种频域线性均衡算法进行了误码率仿真及比较分析,结果表明MMSE均衡性能最佳,大幅度提升了高效调制系统的解调性能。紧接着,遵循从一般到特殊原则,分析了以数字对讲机应用为代表的多径衰落信道特性,仿真分析了在多径衰落信道下不做任何措施时MPPSK数字对讲机系统性能的下降,从而提出了 MPPSK数字对讲机的抗多径衰落算法,并对其进行了误码率仿真,结果表明该算法无需复杂结构即可实现多径分离,以牺牲一定的系统信息传输速率换取了系统解调性能的提升,在实际应用中可在两者之间进行良好的折中。最后,根据高效调制体系的极窄“频谱树”和较宽“频谱草”的特点,在传统矩形频谱划分模式基础上提出了高效调制的频谱缝隙通信,进而以MPPSK数字对讲机为例提出了“插空”数据传输思想。结合“码率域滤波”思想给出MPPSK对讲机的接收机结构框架。在同频干扰和邻频干扰情况下进行了误码率仿真,结果表明基于MPPSK对讲机的“插空”数据传输具有高频率利用率、解调性能好、邻道影响小和干扰隔离度高的优点,从而验证了高效调制“插空”传输的可行性。