实际通信系统中最重要的两个衡量指标就是可靠性和有效性。采用信道编码能够提高通信系统的可靠性,极化码是第一种在二进制输入离散无记忆对称信道中证明可达信道容量的构造性信道编码方式,自提出后便受到学术界和工业界的广泛关注。信息传输速率可以用来反映通信系统的有效性,在受限带宽信道中需要采用高维调制来提高信息传输速率。将高维调制应用于极化编码中,有利于推动极化码的实用化。有鉴于此,本文研究极化编码调制关键技术,主要包括以下三个方面的创新工作:一、极化编码调制构造理论研究针对 AWGN(Additive White Gaussian Noise)信道和瑞利衰落信道,本文分别设计了相应的高性能极化编码调制构造方案。1)在AWGN信道中,本文通过研究发现和证明了极化编码调制框架中极化比特子信道之间的部分序关系。根据所得部分序关系,本文发现极化比特子信道序号的二进制展开序列可视为两部分,分别对应调制变换和极化变换。基于上述特征,本文提出了一种通用度量值来衡量极化比特子信道的可靠度,从而得到极化编码调制框架中的高性能离线构造方案。2)针对瑞利衰落信道,本文首先基于互信息等效原则将其近似为BIAWGN(Binary Input AWGN)信道,然后采用高斯近似算法得到二进制输入瑞利衰落信道中的极化码构造方案。为了进一步降低构造复杂度,本文基于最小差熵原则推导得到了等效BIAWGN信道噪声方差的解析表达式。最后,将互信息等效构造方案推广到瑞利衰落信道极化编码调制下极化码构造设计中。二、极化编码调制联合优化研究针对极化编码与调制的联合优化问题,本文设计了极化编码调制中APSK(Amplitude Phase Shift Keying)星座的性能评估方法和优化方案,并且提出了延时比特交织极化编码调制(DBIPCM,Delayed Bit Interleaved Polar Coded Modulation)框架及相应的星座映射优化方案。1)由于 APSK 星座具有峰平比(PAPR,Peak to Average Power Ratio)低的优点,其在非线性信道中有广泛应用。为了推广极化编码调制的应用场景,本文研究了 APSK星座与极化编码的联合优化方案。在比特交织极化编码调制(BIPCM,Bit Interleaved Polar Coded Modulation)框架中,本文提出了累积巴氏参数(CBP,Cumulative Bhattacharyya Parameter)并且推导了其上界(UBC,Upper Bound of CBP)来衡量APSK星座的极化效应。基于所提度量值,本文进行BIPCM框架中的APSK星座配置优化。为了进一步提升性能,本文将APSK星座应用于多级码极化编码调制(MLC-PCM,Multilevel Coding Polar Coded Modulation)框架中,提出调制比特子信道互信息二阶矩来衡量APSK星座的极化效应。基于所提度量值,本文提出了 APSK星座的通用半集分割(SSP,Semi Set Partitioning)映射方案,并且进行星座配置优化。2)针对BIPCM框架中互信息损失导致性能受限的问题,本文提出了 DBIPCM框架以及相应的星座映射优化方案。在DBIPCM框架中,发送端引入比特延时模块,接收端使用串行解调方案。不同于BIPCM框架,DBIPCM框架中格雷映射不是最佳映射方式。通过将极化码看成一种广义级联码,本文提出外码输入信道互信息方差来衡量DBIPCM框架中星座图不同映射方式下的极化效应。计算结果表明SP(Set Partitioning)映射相对于格雷映射具有更加显著的极化效应,适用于DBIPCM框架。三、极化编码调制星座成形研究采用规则星座会导致信道互信息相对于仙农信道容量有损,本文针对这一问题提出两类星座成形方案应用于极化编码调制中从而提升性能。1)第一类是概率成形,本文提出了极化编码调制概率成形框架和相应的概率成形方案。在概率成形中,本文提出采用多个调制比特序列对应到一个星座点的映射方案从而实现不等概率分布星座图,并且基于所得不等概率分布给出相应的星座映射优化方案。2)第二类是几何成形,不同于概率成形,几何成形中星座点概率相等,位置呈现不均匀分布。本文将前人所提出的几何成形方案应用于BIPCM框架中,并且基于所提出的UBC度量值利用BSA(Binary Switching Algorithm)算法得到极化效应更加显著的星座映射图样。