自动调制分类(Automatic Modulation Classification,AMC)是指通信调制信号调制方式的检测,它不仅在军事中可用于干扰、侦察、监测等重要方面,而且随着智能通信系统的快速发展在民用方面也得到了越来越重要的应用.在认知无线电和软件无线电等系统中,自动调制分类与自适应调制编码互为不可或缺的一部分,通过利用该互补的两个系统单元,通信系统可根据信道条件和系统规格选择调制方式,从而提高其频谱利用率和系统可靠性.本文通过深入分析通信调制信号自动分类的各种算法,总结现存算法优缺点,在探讨传统算法改进的基础上结合当前人工智能算法快速发展的背景,围绕自动调制分类算法进行研究,提出了一些使其更加智能化、自动化的方法,主要贡献及创新如下:首先,针对传统方法分类准确率不够高的问题,本文提出联合时域和时频域特征的数字调制信号自动类间方法,它通过提取一系列特征进行特征,然后采用支持向量机进行分类,从而在满足实时性要求的情况下提高了分类的准确度.其次,针对传统方法不能自动提取特征的问题,本文提出基于稀疏自动编码器的数字调制信号自动类间分类方法,利用机器学习中的栈式稀疏自编码器自动提取信号变换域的特征,避免了费时费力的人工设计和选择特征,再利用softmax分类器进行调制信号类间自动分类.该方法不仅在高信噪比条件下分类准确率高于传统算法,而且在低信噪比条件下比传统算法有着显著的提高,同时该算法的鲁棒性和泛化能力比较高.最后,针对前一种方法只能在信号变换域提取特征从而受到变换域的限制使得该方法只能进行调制信号的类间分类,本文提出基于稠密连接卷积神经网络的调制信号自动分类方法,先利用稠密连接卷积神经网络从调制信号时域直接提取特征,再通过softmax分类器对调制信号进行自动分类,它不仅可以进行调制信号类间分类还可进行调制信号的类内分类.该算法泛化能力比较强,鲁棒性也比较高,同时分类准确度明显优于传统方法和现存的其他机器学习算法.