近年来，随着世界各国深空探测及通信技术的突飞猛进，人类对未知空间领域的探索有了长足的进步。但深空通信存在信噪比低及多普勒频移严重等特征，导致传统接收机无法有效接收信号。这对保障微弱信号的高可靠接收带来了巨大挑战。为了确保深空通信信号接收的可靠性，就需借助现代信道编码和数字调制技术，来共同构建一个高性能接收系统。针对这些问题，本文较深入地开展了卫星微弱信号高效低码率编码及解调技术研究。此外，基于软件无线电技术，结合所研究的理论算法，本文在FPGA硬件验证平台上实现了卫星信号接收系统的建模与仿真，验证了所提系统方案的可行性。全文主要内容如下：首先，简要介绍了数字卫星通信中信道编译码和调制解调的应用背景。对于信道编译码，主要论述了LDPC码的常用编译码方式及原理；对于调制解调，介绍了QPSK的实现过程，并对主要涉及的成形滤波器、匹配滤波器和载波同步环作了简要理论分析。其次，针对深空卫星通信背景，介绍了其对信道编码的要求，讨论了码长、码率对信道编码性能的影响。之后，提出了一种基于原模图扩展，QC-ACE优化搜索的低码率准循环结构LDPC码的构造方案，并具体分析了该构造方案的实现过程。根据课题要求，给出了一组典型码字构造参数，并将所构造LDPC码与等码率下Turbo码及短码长LDPC码作了性能对比分析。仿真表明：该码性能优于上述常见码字，能达到应用要求。再次，简要介绍了相干解调载波同步原理。通过对传统锁相环的性能分析，其无法有效完成高动态载波同步。根据锁频环、Costas环以及环路滤波器的相关性能分析，提出了一种适用于多种相移键控调制方式且兼具高动态载波捕获性能的二阶锁频环辅助三阶锁相环载波同步方案。仿真表明：该方案能够在不同调制方式下，较好地实现对高动态载波信号的捕获。最后，借助软件无线电方法，结合所研究的LDPC码和载波同步方案，在FPGA硬件验证平台上构建了较完整的LDPC编码、QPSK调制解调信号接收系统。同时，对核心部分的编码、成形滤波、数字变频、载波同步以及相位模糊纠正模块的设计过程进行了详细论述。通过在硬件验证平台上的实际测试，验证了所提研究方案的可行性。本课题的研究意义在于：通过信道编码构造和载波同步方案改进，结合现有的FPGA通信系统验证平台，提出了一种能保障深空卫星通信背景下信号接收的有效可靠传输方案，该方案有望在未来深空探测与通信中获得应用。