无线通信系统的可靠性一直是研究人员所关注的主要内容之一。信道纠错码通过引入冗余信息，能够有效地提高通信系统传输的可靠性，已经被广泛应用于各种通信系统中；作为提高移动通信系统可靠性或者增加其覆盖范围的有效手段，中继技术被列为下一代移动通信系统(LTE-Advanced)的关键技术。结合信道纠错码和中继技术两者优点的译码转发中继技术，成为一个重要的研究方向。除了可靠性之外，无线通信系统的安全性也是广大用户和研究人员十分关注的问题。近年来，物理层安全技术可以和应用在协议高层的传统安全技术互为补充，共同提高无线通信系统的安全性，成为一个新的研究热点。在物理层安全技术中，无论是物理层密钥提取还是利用物理层安全通信的密钥传输，都依赖于信道纠错码的应用。总而言之，信道纠错码无论是在无线通信系统的可靠性方面还是在无线通信系统的物理层安全技术方面都是不可或缺的关键技术。　　本文针对LDPC码在译码转发中继系统和物理层密钥提取中的应用进行了优化设计，同时对级联码的迭代译码算法和基于译码转发中继选择的物理层安全通信的性能分析也进行了研究。　　本文第二章探讨以里德-所罗门(RS)码和递归系统卷积码(CC)作为分量码的级联码(如RS-CC级联码和RS乘积码-CC级联码)的迭代译码算法。这类级联码的优秀纠错性能一般需要基于软信息的软判决迭代译码算法。我们首先介绍RS-CC级联码及其软判决迭代译码算法，并提出改进的软判决迭代译码算法来提高译码性能。其次，由于RS乘积码是一类好码，并能提供比上述算法更准确的软信息，所以我们以RS乘积码取代RS码作为外码，以递归系统卷积码作为内码，并使用基于同余序列的交织器。通过使用软判决迭代译码算法，有效地改善了这类级联码的译码性能。　　本文第三章研究译码转发中继系统中基于LDPC码的比特交织编码调制技术的应用。采用LDPC码的译码转发中继系统的关键是对码率兼容LDPC码进行优化设计。首先在二进制调制下，我们应用校验分裂技术得到码率兼容非规则重复累积码，并提出了此类码率兼容非规则重复累积码在非均匀信道下改进的外信息转移图(EXIT)，然后将其用于寻找最优码字。其次，为了提高频谱利用率，我们讨论了采用高阶调制时基于码率兼容原图码的比特交织编码调制技术在译码转发系统中的应用。针对基于并行级联技术、校验分裂技术或者延长双层技术的比特交织编码(高阶)调制系统，我们利用原型图EXIT获得的译码门限来同时优化LDPC码和映射图案。研究表明优化的方案能够取得良好的性能。　　论文后两章讨论了在物理层安全技术中基于窃听信道模型的物理层密钥提取和物理层安全通信的性能。其中密钥提取可认为是安全通信在时分双工系统中的特殊应用。　　本文第四章分析了使用保护带信道量化器的密钥提取方案及其改进方案的密钥提取效率。首先，我们推导出应用保护带信道量化器的密钥提取方案的误比特率和密钥提取效率的闭式表达式。为了提高密钥提取效率，我们提出了改进的密钥提取方案，并给出该改进方案的密钥提取效率的上界闭式表达式；通过选择合理的参数，使得改进的密钥提取方案逼近自身最大的密钥提取效率。其次，在信噪比较高时，密钥提取方案能够利用多比特量化器来提高密钥提取效率。我们发现原有的多比特保护带信道量化器的密钥提取效率较低，因而提出一种改进的多比特保护带信道量化器。针对多比特量化器每级量化比特的误比特率不同的情况，我们使用基于原图码的比特交织编码调制技术来实现准对称SWC编码，并对其进行了优化，取得了良好的效果。　　最后，本文第五章分析了基于译码转发中继选择的物理层安全通信的安全性能。首先在译码转发中继选择系统分别应用最优中继选择策略和次优中继选择策略时，我们推导出平均安全速率和中断概率的闭式表达式。特别在中继选择系统采用次优中继选择策略时，我们提出虚假安全事件的概念，并给出虚假安全概率的闭式表达式，分析了虚假安全概率和安全性能之间的关系。