由于物联网和移动互联网业务的爆发式增长,5G系统需要满足更高频谱效率,更大连接,更大容量,更低时延等要求。然而,传统的正交多址接入技术受到单用户容量界等条件的约束并不适用于未来系统的需求,新型多址技术应运而生。新型多址技术实现了多个用户信号在空/时/频/码域上的叠加传输,在接收端采用先进的检测算法完成用户信号的分离,从而实现多种场景下系统频谱效率和接入能力的显著提升。本文重点研究了5G系统演进中新型多址技术的检测算法及中断概率问题,主要的工作内容如下:对系统的中断概率推导能够很好地指导后续研究,本文首先针对上行图样分割多址系统,数学分析系统的中断概率和可达和速率,并建立闭式解方程。通过数值仿真表明,在用户目标速率都相等的情况下,上行图样分割多址系统获得的可达和速率高于传统的正交多址系统。针对新型多址系统中的用户检测问题,本文提出一种基于最小均方误差和干扰消除的检测算法。该算法基于循环冗余校验的判断结果删除部分干扰信号,从而提升系统的检测性能,并有效地避免差错传播。仿真结果表明,与现有的干扰消除算法相比,该算法能够明显地降低系统的误块率。为了进一步提升系统的检测性能,本文在前文提出的基于最小均方误差和干扰消除的检测算法的基础上进行改进,提出一种基于置信度传播和干扰消除的迭代检测译码算法。该算法通过信道译码器为置信度传播检测器提供先验信息,并借助基于循环冗余校验结果的干扰消除算法删除部分干扰信号,更好地提升系统的检测性能。此外,该算法能够自适应地调整系统的迭代次数,在一定程度上降低检测算法的计算复杂度。仿真结果表明改进的算法能够获得更好的误块率性能。