近年来，短波通信技术的快速发展和新通信体制的应用，给非合作通信带来了机遇和挑战。对于非合作通信而言，其主要任务是截获信号、方位测定、识别和最终获取信号的通信内容。随着短波电磁环境的日益密集、复杂，低截获概率信号的广泛应用，如何快速、完整地检测低截获概率信号并识别出调制方式，是对其进行后续处理的基础，也是当前面临的问题。因此本文研究了短波低截获概率信号的盲检测和调制识别问题，主要内容和创新如下：1、针对短波信道，首先分析了短波信道的特性及其多径衰落模型。然后针对跳频信号接收条件，研究了宽带数字接收技术，并讨论了宽带接收条件下的短波复杂电磁环境，最后给出了宽带信号检测的自适应门限，为后续研究奠定基础。2、针对短时突发信号检测实时性的问题，研究了信号检测的时域算法。从简化运算量的角度，采用计算量简单的Kolmogorov检测统计量，实现了低复杂度的突发信号检测；从提高检测性能的角度，通过改进相关算法来提高信噪比，提高了低信噪比下突发信号的检测性能；从恒虚警门限的角度，利用分形盒维数的特点，解决了噪声方差变化时门限选取鲁棒性的问题。通过仿真和复杂度对比，分析了各算法的优缺点及适用场合。最后针对突发信号精确提取问题，给出了起止点评价指标，通过利用小波分解重构算法提高了信号起止点检测精度，仿真验证了算法的有效性。3、研究了短波复杂电磁环境下跳频信号盲检测问题。首先给出了跳频信号的数学模型及技术指标。然后通过改进的自项窗法，对时频分析方法进行了改进，并利用定频消除、二值化、形态学滤波和聚类分析等算法对时频图进行处理，完成了对跳频信号的盲检测，实际信号测试证明了算法的可行性。针对基于时频图算法虚警率和漏警率高的缺点，引入示向信息，提出了基于示向图的跳频信号盲检测算法。该算法基于相关干涉仪测向形成的示向图，通过聚类分割示向图区分干扰信号之后，采用边界投影算法完成对跳频信号的盲检测。该算法能有效地避免基于时频图算法的缺点，仿真验证了算法的可行性。4、研究了在短波多径衰落信道和非理想接收两种条件下，突发信号和跳频信号常见调制方式的识别分类问题。针对现有多载波检测算法的缺点，在多径衰落信道下对多载波信号和单载波信号的循环自相关进行分析，通过对搜索范围的改进，利用循环自相关截面上谱峰信息来完成多载波信号的检测，仿真验证了算法的可行性和抗多径衰落性能。针对现有单载波识别分类算法的缺点，分析推导了在多径衰落信道下各种单载波信号一阶、二阶和四阶的循环统计特征，并利用CAFR检测算法中的检测量，通过5层树形判决对常见的模拟和数字信号进行识别分类，仿真分析验证了算法的可行性、抗多径衰落性能和非理想接收条件下性能的鲁棒性。