空时编码是多输入多输出（Multi-input Multi-output；MIMO）通信系统中的一种有效编码技术，可以分为相干空时码和非相干空时码，当接收端已知信道状态信息时为相干空时码，否则为非相干空时码。本文研究非相干酉空时码所构成的调制解调系统，构造出低复杂度的代数结构酉空时码—SC-USTM。将LDPC码与SC-USTM结合，设计出编码调制系统和相应的双解调器。并利用SC-USTM设计训练符号携带信息的非相干空时码。具体研究如下三种方案：第一，提出基于三角函数的非相干酉空时信号矩阵星座图及其低复杂度的解调算法。首先根据酉空时码的设计准则利用三角函数(sine-cosine)设计结构化的酉空时信号星座图，简称为SC-USTM。然后在最大似然(ML)解调的基础上推导出适用于SC-USTM的角度解调算法，该解调算法的计算复杂度与星座点的个数L无关，与MN成线性关系。第二，研究了纠错码与非相干酉空时调制相结合的实用编码调制通信系统。信道编码采用IEEE802.16e中的LDPC码，信道调制采用非相干酉空时码SC-USTM，首先推导出适用于SC-USTM的最大后验概率（MAP）公式。然后在SC-USTM的角度解调算法基础上构造出新颖的双解调器，以及LDPC的BP解码到最大后验概率解调的迭代反馈系统及其性能改进方法。由此构造的LDPC码编码SC-USTM酉空时调制系统达到了性能和复杂度的平衡。第三，提出一个训练符号携带信息的非相干空时调制解调系统的实用模型。传统的训练符号由单位矩阵构成，不携带有效信息，本文的训练符号由SC-USTM酉空时矩阵生成，可以携带有效信息，数据符号采用具有较高数据传输率及低解调算法的相干空时码如Golden码和Alamouti空时码，该系统模型具有高频谱效率、高的抗衰落性能和低复杂度的特征。