软件安全漏洞问题是当前网络空间安全的重要研究方向之一,软件安全漏洞一旦被恶意攻击,会导致用户的财产损失和信息泄露。模糊测试(Fuzzing)技术作为一种自动化的软件漏洞动态检测技术,因其在漏洞发掘方面的高效性和易用性,近些年获得了很大关注。将Fuzzing测试技术与符号执行、静态分析等其他程序分析技术相结合来提高Fuzzing测试的效率,成为了目前的一个研究热点。论文主要研究以一种更有效、更高效的方式结合Fuzzing测试、静态分析和动态符号执行技术,提高Fuzzing测试发掘软件安全漏洞的效率。论文主要完成的工作如下:首先,论文提出并实现了一种整体Fuzzing测试算法。算法以程序中各分支代码块在控制流分析中相对易触发漏洞的危险代码块的距离和可达性为引导,结合遗传算法和定向搜索策略,实现对程序中危险路径的高效率导向型测试,减少Fuzzing测试对程序代码空间探索的盲目性;同时结合动态符号执行对程序中分支代码块约束条件的求解能力,实现对危险路径的定向求解,提高Fuzzing测试生成有效测试数据的效率。其次,基于所提算法论文设计了 Fuzzing测试的整体流程框架,并对框架中静态分析、导向型模糊测试和动态符号执行进行了三方面的优化:1)在对程序源码的静态分析方面,论文结合了分支代码块与危险代码块的距离计算和可达性的分析,设计了分支代码块危险分数评定标准。2)优化了 Fuzzing测试的种子能量调度和队列筛选算法,加入了危险分数作为激励,克服以覆盖率为导向进行Fuzzing测试的盲目性。3)优化了动态符号执行中的路径搜索算法,添加了危险路径中的分支节点优先的搜索策略。通过执行模糊测试中“失效”的测试样本,并利用优化后的路径搜索算法准确定位路径约束中的关键约束节点并求解,为Fuzzing测试高效率提供有效的测试用例。最后,基于本文所提出的Fuzzing测试算法和流程框架以及各部分优化算法,设计实现了 Fuzzing测试原型工具SpeedyFuzz。在实验中,通过对真实软件进行测试并有效发现了安全漏洞,验证了论文所提算法的可行性和正确性。通过与未进行优化的同类型工具进行比较测试,验证了本文设计的Fuzzing测试工具在漏洞检测上的快速和高效。