现今社会,人们对于软件产品的依赖度越来越高,随之,软件产品的复杂度也越来越高,而软件中的漏洞所造成的破坏也越来越大,因此针对软件产品的脆弱性检测变得迫在眉睫。模糊测试技术是检测软件漏洞的一种有效的方法。基于此,在本文中,我们提出了一种基于模型约束和粒子群算法的模糊测试方法。首先,通过模型约束技术对样本的格式进行严格约束,从而减少无效样本的生成;其次,通过改进传统的粒子群算法,使得算法的收敛性更优,从而更好地指导样本的生成,使样本的执行能不断趋向于脆弱路径,从而提高测试效率。通过借鉴这两种技术,并结合源码插桩、静态分析等技术形成的软件脆弱性检测方案,解决了传统模糊测试方法存在的盲目性大、自动化程度不高、漏洞挖掘效率低下的各种不足。基于前期的技术调研与研究,本文实现了一套基于模型约束和粒子群算法相结合的软件脆弱性检测原型系统。通过对三款软件进行测试的结果表明,相比于单一技术的模糊测试框架,本文提出的方案在漏洞挖掘效率以及代码覆盖率上都有明显的提高。