随着光纤通信技术的发展，100G及以上相干光通信必然使用偏振复用和高阶调制，例如100G光纤通信系统中使用最广泛的PDM-DQPSK，以及QAM等。传输速率的提高和调制阶数的增大更使得通信系统对噪声更加敏感，相干光纤通信系统中常见的噪声除了加性高斯白噪声外，还有相位噪声，色散等。LDPC码（低密度奇偶校验码）已经成为通信系统中FEC（前向纠错技术）的一个研究热点，光纤通信也不例外，LDPC码相比传统光纤通信中使用的RS码有更好的译码性能，LDPC码正成为新一代光纤通信中的纠错编码方式。本文主要研究相干光纤通信中LDPC码的性能，一般的LDPC码指的都是二进制LDPC码，而相干光通信中采用高阶调制方式，这就需要一种映射方法使得二进制码能适用于高阶调制方式，并且在编译码中都能实现。本文通过仿真验证了只要在译码时使用对应调制方式的LLR计算方法，二进制LDPC码同样适用于高阶调制方式，并且验证了在不同的调制方式下依然能保持同样的性能增益。相干光通信中相位噪声也是影响系统性能的一个重要因素，因此通信系统中需要使用相位估计器来降低相位噪声的影响。本文研究了经过相位估计后，相位噪声对LDPC码译码前后的影响，并提出了一种修改LLR（对数似然比信息）的方法，该方法能挽回一定的性能损失。色散也是光纤通信中必需考虑的一个因素，本文研究了电信道均衡对LDPC码译码的影响，并分析了均衡器最佳参数的选择。LDPC码优异的性能很大程度上是得益于软译码，LDPC码译码算法中比较经典的有BP算法和MIN-SUM算法。考虑到LDPC码硬件实现的复杂程度，本文设计了一种基于MIN-SUM算法的LDPC码译码器，并用verilog语言完成了逻辑实现。在硬件架构上，该译码器采用乒乓操作，使得硬件资源的利用率增大，同时存储器采用了QC-LDPC码适合的循环线存储方式，提高了存储器的寻址效率，译码过程中的数据运算均采用流水线运算方法，译码速率提高。