为了满足第五代移动通信(Fifth Generation,5G)面临的海量连接需求,一种由低密度签名序列(Low Density Signature,LDS)技术演变而来的稀疏码多址接入(Sparse Code Multiple Access,SCMA)技术正成为当前的研究热点。通过合并LDS技术中的调制器和稀疏扩频器,SCMA系统依靠预先分配的码本中的码字区分各用户的数据。得益于码字的稀疏性,SCMA系统可以采用兼顾检测复杂度和检测性能的消息传递算法(Message Passing Algorithm,MPA)译码。对于SCMA系统的关键技术,本文深入研究了基于分步优化策略的码本设计方案以及MPA的低复杂度优化方法。在基于分步优化策略的码本设计方案中,设计母星座的复杂度和确定最优星座运算的难度实际上增加了码本设计的难度。针对这一问题,本文提出了两种改进的码本设计方案,即基于资源块星座图的码本设计和基于距离谱的码本设计。1.基于资源块星座图的码本设计方案。通过直接设计最大化最小欧氏距离的低维资源块星座图,所提方案避免了设计高维母星座的复杂度,而且资源块上星座点间最大化的最小欧氏距离还能提升系统性能。2.基于距离谱的码本设计方案。所提方案将母星座的设计和星座运算的确定过程转化为简单的码本设计参数选择过程,并且以不影响码本唯一可译码性的方式降低了选择参数的复杂度。在所提最大化码本距离谱最小元素的码本设计准则下,所提方案确定了最优的码本设计参数,最终获得了性能优异的用户码本。仿真结果表明,本文所提两种码本设计方案的误比特率(Bit Error Rate,BER)性能较基于分步优化策略的码本设计方案存在显著提升。针对原始MPA收敛性能差的问题,本文重点研究了具有良好收敛性能的串行结构MPA和最具实用价值的混合结构MPA。根据资源节点到用户节点的消息随着迭代次数的增加而逐渐收敛的事实,本文提出了一种基于更新率的低复杂度优化方法。所提方法通过资源节点到用户节点消息的更新率来判断是否提前停止更新已收敛的消息,进而能够降低MPA的检测复杂度。结合这种方法,本文分别提出了基于更新率的串行结构MPA和基于更新率的混合结构MPA。仿真结果表明,所提算法能在检测复杂度和BER性能之间取得较好的平衡。此外,由于分组策略对混合结构MPA的性能起到了重要的影响,本文还研究了混合结构MPA在不同分组策略下的性能,并且总结了不同迭代次数下的最佳分组策略。