软件漏洞是网络安全事件产生的主要根源,已经成为网络空间博弈的重要战略资源,受到了国家、企业和研究机构的高度关注。面向二进制软件的漏洞分析技术可以在无法获取源码的情况下发现软件中的安全漏洞,具有十分重要的研究价值,是网络安全领域的研究重点。论文以二进制软件漏洞挖掘为研究目标,分析了软件漏洞挖掘技术原理及面临的主要挑战,重点研究了二进制软件漏洞挖掘中控制流图构建技术、高危代码区域定位技术和导向式测试用例生成技术,提高了二进制软件漏洞挖掘效率。论文的主要工作和创新包括:1、二进制软件控制流图构建方法研究提出了基于导向式灰盒模糊测试的二进制程序控制流图构建方法,缓解了现有方法中解析间接跳转困难、构建控制流图不完备的问题。首先,采用静态分析构建不包含间接跳转的静态控制流图;然后,针对现有方法在生成测试用例时的盲目性,提出使用导向式灰盒模糊测试生成测试用例,并通过动态二进制插桩获得间接跳转关系;最后,融合静态控制流图和间接跳转关系,构建更加完备的控制流图。另外,针对现有方法在生成测试用例时的不可持续性,提出一种迭代反馈机制进一步提高控制流图的完备性。实验结果表明,相比于现有方法,该方法能够构建更加完备的控制流图,为漏洞挖掘提供了基础数据支撑。2、高危代码区域定位方法研究提出了基于堆感知数据流分析的高危代码区域定位方法。首先,针对软件漏洞缺乏统一、准确的判定依据的问题,提出了基于漏洞断言的漏洞状态特征模型构建方法,通过定义三类漏洞状态判定约束:存储属性约束、堆块属性约束和行为属性约束,构建了12类常见漏洞的状态特征模型,为高危代码区域判定提供依据;然后,针对二进制程序抽象状态计算不准确的问题,提出了基于堆感知数据流分析的程序抽象状态计算方法,通过构建堆感知的程序抽象状态模型、定义中间表示的抽象解释规则,提高了程序抽象状态计算的准确性;最后,根据漏洞状态特征模型和程序抽象状态判定漏洞触发点,并基于程序切片提取高危代码区域。实验结果表明,该方法能够定位出程序中更多潜在的安全漏洞,并具有合理的时间开销。3、导向式测试用例生成方法研究导向式测试用例生成方法研究分为两个部分,第一部分研究了单目标导向的测试用例生成方法,针对现有方法不能有效到达目标节点的问题,提出了基于模糊测试与符号执行结合的单目标导向式测试用例生成方法,通过引入“近目标区域”将测试用例生成划分为两个阶段,分析前段使用导向式模糊测试执行路径搜索,生成达到近目标区域的测试用例;分析后段在近目标区域内使用导向式符号执行进行搜索,生成达到目标节点的测试用例。第二部分,以生成触发漏洞的测试用例（Proof of Concept,Po C）为目标,基于单目标导向式测试用例生成方法,提出了导向式Po C生成方法。首先,使用单目标导向式测试用例生成方法生成到达漏洞引入点的测试用例;然后,在高危代码区域内使用导向式符号执行进行搜索,生成控制流可达的测试用例;最后,结合控制流可达约束及漏洞断言中的数据流可达约束生成Po C。基于上述技术实现了面向二进制程序的自动化漏洞挖掘原型系统DSym Fuzzer,实验结果表明该方法能够有效生成触发漏洞的测试用例,相比于现有漏洞挖掘工具有更强的漏洞检测能力。