神经网络作为人工智能领域内的研究热点,近年来得到广泛应用。神经网络中的大部分规则是从训练数据中学习的,由于训练数据偏差、模型过拟合或欠拟合等原因,神经网络会在某些条件下出现不正确行为,而传统的测试方法并不能直接用于测试神经网络。模糊测试是一种强制性的安全漏洞发掘技术,它将大量测试数据作为程序输入,以期望发现目标程序因为这些输入所引起的非预期行为。将模糊测试技术应用于对神经网络的测试,能够快速发掘系统中潜在的安全漏洞,有效地提升系统的安全性与可靠性。本文设计和实现了一个基于多元测试用例的神经网络模糊测试系统,通过不同的测试数据生成方式在短时间内生成大量有效测试用例,以发掘神经网络中潜在的缺陷。本系统采用B/S架构,前端基于Bootstrap框架搭建,服务端程序基于Django框架实现,服务器基于Gunicorn搭建,通过Nginx反向代理实现负载均衡,使用My SQL数据库存储持久化数据。本系统包含六个模块:(1)神经网络接入模块提供一个统一的接口,用于接入由不同框架构建的待测神经网络。(2)多元测试用例生成模块为满足测试者的不同需求,提供了基于变异和基于生成等测试用例生成方法(3)测试用例变异模块提供基于图像特征和基于字节等变异算法修改原始测试用例以生成变异测试用例。(4)测试用例执行模块用于将测试用例投入待测神经网络中执行,监视目标状态并保存运行结果和异常信息(5)覆盖计算与判定模块用于接收测试用例执行后的数据,提取覆盖信息、计算覆盖并判断是否触发新覆盖。(6)测试任务执行模块用于构建具体的模糊器,执行自动化测试,展示测试结果。本文选取了由Tensor Flow和Caffe框架构建的Alex Net、Google Net和Caffe Net等常见神经网络对基于多元测试用例的神经网络模糊测试系统的可用性进行初步实验评估。实验结果表明本系统能够快速发掘神经网络中的数值错误、分类错误、随机数据导致系统崩溃等内部缺陷。