随着软件行业的飞速发展,日常使用的软件也越来越多,但在这些飞速发展的软件中却常常存在着各种重大的安全漏洞。为了防止这些软件漏洞被攻击者恶意利用。安全研究人员会不断的去挖掘软件中未被发现的漏洞,并及时对漏洞进行修补,从而提高软件系统的安全性。而在众多漏洞挖掘方法之中,效果最为直接有效的就是模糊测试技术。目前工业界主要使用的模糊测试技术有两种:基于模板约束的模糊测试技术与基于反馈的模糊测试技术。基于模板约束的模糊测试技术可以生成高穿透性样本文件,但是其在变异过程中缺乏指导,变异目标不明确,导致其模糊测试效率低下;基于反馈的模糊测试技术会利用程序运行中反馈的信息控制样本向着高覆盖率的方向进行变异,但是其对于具有复杂格式的程序穿透性不佳。此外基于反馈的模糊测试技术在其指导样本变异的时候,是以单个样本为评价基本单位,其往往不够准确,会导致模糊测试过程中会浪费许多算力。基于以上背景,本文提出一种模糊测试技术,提取并结合了基于模板约束模的糊测试技术中的模型约束技术与基于反馈的模糊测试技术中的路径反馈技术。模板约束技术可以使样本文件具有极强的穿透性,从而绕过许多安全检测,增加程序的覆盖率。路径反馈技术可以获取程序在运行状态中的路径信息。通过对每个样本的执行路径进行分析,可以清晰的认识到样本的状态,从而控制样本向着高覆盖率的方向发展。本文通过将上述两种技术相结合,从而提高模糊测试过程中的覆盖率。此外,本文还提出基于蚁群算法的模糊测试技术,利用蚁群算法的信息素浓度可以记录历史信息的特点,通过将样本的模糊测试过程转换为蚁群搜寻路径的过程,从而驱使模糊测试系统对高概率生成新路径的样本进行优先变异,进一步提升模糊测试的覆盖率。本文研究、设计和实现的整套模糊测试系统具有高效、准确的特点,并且在模糊测试的覆盖率上有显著的提升,能够在漏洞挖掘领域发挥一定的作用。