高频雷达工作于3MHz至30MHz的频率范围内,利用高频电磁波沿海面绕射的机理,可实现对海洋表面的超视距探测。高频雷达最广泛的用途是实现大范围的海洋表面物理状态参数的测量,如风场、浪高和海流等信息。除此之外,高频雷达还可以用于海洋表面船只和低空飞行目标的探测,对于国家海洋安全具有重要意义。同时高频雷达的目标检测也面临着很多问题。雷达回波谱中常含有各种噪声、杂波和干扰严重影响了目标信号的检测。海面船只的机动特性会导致目标信号在雷达回波谱上出现扩散的现象,基于点目标假设的检测方法有时会失效。针对以上存在的问题,为了提高高频雷达的目标探测性能,本文致力于使用机器学习算法来处理雷达目标探测问题。本文的研究工作涉及以下几个方面1)提出了两种AIS信息匹配方法。一种是以距离最近作为基本原则的“最近匹配法”,可用于验证目标检测算法的性能。另一种是通过去除多匹配的AIS与雷达目标来减少误匹配的“准确匹配法”,可用来采集真实目标样本,构建数据集。在实测数据上对比了两种匹配方法的效果。2)设计了用于目标检测的机器学习数据集构建方法。根据各种回波信号在雷达RD谱上的特点,提出了关于海杂波,射频干扰,随机噪声以及目标信号的样本采集方法。针对目标信号在RD谱上的特点,设计了一种从紧凑型高频雷达多个数据通道中选择样本特征的方法。依据样本采集和特征选择的方法构建出用于监督式机器学习的数据集。3)设计了包括支持向量机、神经网络和卷积神经网络在内的三种分类模型用于目标检测。使用从雷达实测数据中收集而来的数据集对分类模型进行训练和测试。最终在实测数据上以匹配率、信噪比和关联点迹为指标详细对比了三种分类模型与传统OS-CFAR算法的目标检测性能。4)提出了基于支持向量描述的虚警剔除方法。根据雷达回波谱上噪声与目标信号的分布情况,提出了将噪声作为正常信号、目标作为异常信号的检测思路。选择非监督学习中的SVDD算法实现对噪声信号的描述,并从实测数据中采集噪声样本训练SVDD模型,讨论了惩罚因子C以及特征降维方法对SVDD性能的影响。然后根据实际的雷达目标检测场景提出了OS-CFAR与SVDD级联的检测框架。并在实测数据中验证SVDD算法的虚警剔除效果。