模糊测试是通过不断对样本进行变异,然后将变异后的样本作为程序输入,通过观察程序是否产生异常来实现对程序的测试。由于其无需对程序进行深入分析,通用性较好,在工业界中被广泛使用。目前模糊测试工具主要是以覆盖率信息作为反馈,采用遗传算法辅助样本生成,以达到不断生成更优质样本的目的。最终实现代码覆盖率的提高,进而触发程序中潜在的漏洞。然而基于覆盖率的控制流信息仅能被遗传算法用作样本筛选,难以指导对样本的修改,因此对于魔数、元数据等字段的生成仅能依靠不断尝试。这就导致模糊测试将大量时间花费在猜测这些字段上面。同时,多数模糊测试工具并非直接以漏洞为目标进行样本变异,而是以提高代码覆盖率为目标。高覆盖率是漏洞挖掘的必要条件但并不是充分条件,覆盖到漏洞所在路径并不一定能够确保漏洞的触发。因此,本文通过获取数据流相关信息,来指导样本修改,针对被测程序、堆溢出漏洞设计算法来生成样本,达到挖掘漏洞的目的。围绕上述的研究思路,本文所做的工作主要如下:(1)提出了一种基于细粒度污点分析的样本生成方法。设计了一款用来分析魔数、元数据等字段的细粒度污点分析引擎。利用该污点分析引擎获取运行时数据流信息,辅助模糊测试工具进行样本生成,使其更有效的产生高覆盖率样本,实现程序敏感的样本生成方法。(2)提出了基于污点推理的关键输入字段以及程序脆弱点识别方法。通过在代码编译阶段对访存指令插桩,在执行阶段对这些指令进行监控和分析,动态获取程序执行时的访存偏移信息。在获取到访存信息之后,利用修改输入数据的手段,来观察访存指令中访存偏移是否产生变化。从而识别出输入中能够影响程序访存行为的关键输入字段以及受到输入影响的脆弱点访存指令。(3)提出了基于访存偏移的启发式样本生成算法。在堆溢出漏洞挖掘过程中,采用基于梯度下降的算法来利用访存信息进行样本变异。通过不断的反馈校正,使得程序中脆弱点的访存偏移向越界方向变化,进而触发堆溢出漏洞。所述两种样本生成方法都实现了对应的工具,前者专注提高模糊测试的覆盖率,后者则专注于针对堆溢出进行样本变异。本文通过共享样本池的方法实现混合模糊测试,提高模糊测试的效率。利用它们对多款开源工具进行测试,并与传统模糊测试工具进行比对,实验结果显示在覆盖率和漏洞挖掘数上都得到了有效的提升。