深度神经网络在众多领域的应用中取得了巨大成功,尤其是在计算机视觉领域,在大数据支撑下的深度卷积神经网络在图像的识别、检测和分割等任务中展现出优异的性能。但有研究发现在样本数据中加入微小扰动会导致预测精度达到人类水平的深度神经网络大概率的出错,这种加入微小扰动的样本称为对抗样本。大多数的对抗样本在人眼看来都与原始样本十分相似,对抗样本已成为威胁深度学习应用安全性的重要因素之一。为了保证深度学习算法的安全性,需要研究对抗样本对深度学习的影响,这也成为领域最新的研究热门,本文主要研究对抗样本的生成方法和对抗样本的安全应用。本文讨论了对抗样本的高效生成方法以及如何应用对抗样本技术提升图像验证码的安全性,主要贡献点如下:1.设计了一种基于生成对抗网络(GAN)的对抗样本生成方法。常见的对抗样本生成方法,如基于优化的方法、快速梯度标记法(FGSM)和对抗变换网络法(ATN),存在生成速度慢、易被对抗训练防御和对原始样本扰动过大等问题。本文针对图像分类中的定向对抗攻击问题,利用类别概率向量重排序函数和GAN,在待攻击神经网络内部结构已知的前提下对其作对抗攻击。实验结果表明,与ATN方法相比,本方法对指定深度网络的定向攻击成功率提升至78%,并且提升了生成的对抗样本的图像质量,消除了ATN方法带来的纹理干扰和边缘模糊等问题。2.设计了一种基于GAN的可迁移对抗样本生成方法。常见的对抗样本生成方法仅对单一深度网络模型具有较高的定向攻击成功率,其生成的对抗样本对其他结构的深度网络的定向攻击成功率较低。为了提高对抗样本的可迁移性,本文提出一种基于GAN的多网络联合优化的对抗样本生成模型,使得其生成的对抗样本大概率地被多个深度网络错分。实验结果表明,本方法生成的对抗样本迁移至2种未知结构的深度神经网络时,平均定向攻击成功率提升至70%。3.设计了一种基于对抗样本的防御机器破解的验证码生成系统。深度学习技术的快速发展使得机器的识别能力越来越强大,这给图像验证码系统带来了巨大挑战。本文使用基于GAN的对抗样本生成方法,得到具有迁移性的对抗样本生成模型,将生成样本图片加入图像验证码库中,可以有效抵御使用深度学习方法的破解攻击。实验结果表明,在不降低用户体验的前提下,本验证码生成系统能有效防御机器破解。