【摘 要】
：
深度学习是人工智能领域的重要组成部分,其多层的非线性结构使它能够拟合复杂的样本空间并学习丰富的语义特征,因此深度学习已经广泛的应用于各种领域之中。然而随着深度学习的不断地发展,其“黑盒”特性为模型的使用埋下了安全隐患,对抗样本攻击算法即是其中之一。对抗攻击是一种通过在正常样本中添加精心构造的对抗扰动以欺骗目标网络模型的方法,其对抗扰动十分微小以至于肉眼无法正常识别,但当对抗扰动进入目标网络模型后,
论文部分内容阅读
深度学习是人工智能领域的重要组成部分,其多层的非线性结构使它能够拟合复杂的样本空间并学习丰富的语义特征,因此深度学习已经广泛的应用于各种领域之中。然而随着深度学习的不断地发展,其“黑盒”特性为模型的使用埋下了安全隐患,对抗样本攻击算法即是其中之一。对抗攻击是一种通过在正常样本中添加精心构造的对抗扰动以欺骗目标网络模型的方法,其对抗扰动十分微小以至于肉眼无法正常识别,但当对抗扰动进入目标网络模型后,其扰动会随着网络深度的增加而不断放大,最终使目标模型出现错误。目前,国内外针对对抗样本的防御方法包括检测与恢复,对抗样本检测目的在于识别对抗样本并将其剔除,对抗样本恢复目的在于将对抗样本恢复为干净样本并重新送入目标模型。本文针对图像领域中的对抗样本问题展开研究,基于流形假设原理提出了对抗样本检测与恢复模型,主要工作与创新点如下:（1）通过对流形假设原理的研究,本文提出一种通用的对抗样本检测与恢复模型架构。该模型由检测模块与恢复模块两部分组成,检测模型用以检出远离流形空间的对抗样本,恢复模型用以恢复贴近流形空间的对抗样本。两种模型共同作用,达到更佳的对抗样本防御效果。（2）通过对自编码器工作原理与注意力机制的研究,本文提出一种基于特征金字塔网络的对抗样本检测模型。该模型利用FPN自编码器对原始图像进行重构,并使用注意力机制提升模型特征学习能力。通过计算重构图像与原始图像之间的重构误差,判断该原始图像是否属于正常样本。（3）通过对降噪自编码器工作原理与超分辨率网络的研究,本文提出一种基于特征金字塔网络的对抗样本恢复模型。该模型采用高斯噪声与NLM降噪算法对原始图像进行预处理,利用FPN降噪自编码器压缩样本中对抗扰动的存在空间,并使用FSRCNN超分辨率网络提升图片质量,最终生成干净样本送入图像分类模型中正确分类。（4）研究并采用FGSM、BIM、MIFGSM、DEEPFOOL、C＆W五种攻击算法进行实验,使用MNIST与CIFAR-10数据集训练VGG-16网络,对基于特征金字塔网络的对抗样本检测与恢复模型进行单独与整体的性能分析。实验表明,检测模型在不同攻击强度下均能有效区分正常样本与对抗样本,恢复模型能够有效恢复对抗样本且对干净样本的重构影响较低。
其他文献
元数据是用于描述数据的数据,已经广泛应用于企业和政府的数据资产管理、挖掘与治理中。现有的大数据系统普遍采用分布式系统架构,因此由多台元数据服务器（Metadata Server,MDS）构成的分布式元数据管理集群可以相对有效地缓解单个服务器的负载压力。但在多数场景下,分布式MDS集群难以保持元数据局部性和集群负载能力的平衡。针对现有哈希映射管理方案在多服务器下局部性不足的问题,本文以实际数据治理项
短视频平台的不断崛起和发展让短视频新闻异军突起，以纸媒为典型代表的传统新闻媒体在此过程中受到极大冲击。传统纸媒新闻短视频化转型存在对短视频平台的依赖性比较高、缺乏专业性和复合型人才等问题。因此，传统纸媒要实现新闻短视频化转型，需要加强与受众的互动，不断发挥自身优势，强化人才培养机制，从多方面提升综合能力，传播更多高质量的短视频新闻。
近年来,深度学习的相关研究迎来了飞速发展,基于深度学习的各种应用为人们的生活带来了巨大便利。在深度学习的应用中,语音识别是人类与机器之间实现沟通交流的重要技术。然而,对抗样本的出现给语音识别及其相关应用的安全性带来了挑战:黑客只需要对语音添加精心设计过的恶意噪声,就可以在人类无法感知其差异的情况下对语音识别系统进行攻击,使语音识别系统将其识别为错误信息或攻击者人为设定的识别结果。对抗样本所带来的这
随着大数据时代的到来,当用户面对海量数据时,难以快速获取自己想要的内容,而推荐算法的出现能有效地解决此类信息过载问题。但单一类型的推荐算法在面对多种不同应用场景时适应性较差,产生的推荐结果往往难以满足用户需求。为了加强推荐算法适用于多种不同应用场景的能力,本文设计实现了基于ISODATA聚类算法的动态阈值K-UCF算法,以及融合非线性时间衰减函数的优化LFM隐语义模型,并在它们的基础上提出了级联式
在水利工程施工建设过程中,往往会根据地形、地质、工程造价等因素而被迫将渠道设置成弯道的形式,这种处于弯道处的水流流动被称为弯道水流。弯道水流运动是一种复杂的三维螺旋紊流流动,在一定条件下会出现流态恶化、水面横比降、弯道急流冲击波等问题,不利于工程的稳定运行。因此,有必要寻求一种结构设计简单、效果良好的改善弯道水流流态的工程措施。弯道水流调整池是近年来提出的一种比较新式的工程措施,已经被应用于工程实
我国民航机场与国外机场相比存在中转旅客比率低的特征,大量旅客涌入航站楼换乘其他交通方式离开机场,形成了极高的旅客疏解需求,极大地考验着机场陆侧地面换乘服务能力。机场巴士作为空港综合交通枢纽中一种不可或缺的公共交通方式,具有疏解旅客的效能,但我国大型机场的机场巴士载客率相较国外普遍较低,未充分发挥其集约型运力的优势。机场巴士的低载客率与机场极高的旅客疏解需求量之间产生了剧烈矛盾。运行品质可对机场巴士
核心素养时代的到来,给教育发展带来了全新的方向。为了培养学生适应未来社会生活的关键能力和必备品格,语文教育也开始更多地关注学生核心素养的培养和发展。随着《义务教育语文课程标准（2022年版）》的颁布,语文学科需要将课标以及核心素养的要求具体化到教学中。作业作为教学的一部分,对于语文核心素养的培育具有不可替代的价值。基于核心素养进行作业设计,有利于解决应试教育下语文作业内容僵化、形式呆板、缺乏人文性
频谱管理是协调和管理频率有序使用的重要途径,无线电监测是频谱管理的基础,监测过程产生的大量的频谱数据能够为管理提供有效支撑。因而频谱数据的信息的挖掘和知识获取收到广泛关注,特别是基于时序模式挖掘的频谱预测技术成为近年来研究的热点。在现有研究中,基于频繁模式挖掘的频谱预测方法多用于认知无线电,并且对于模式的信息的深度应用层次较低。本文提出了基于时序模式挖掘的辅助用频研究,利用频谱数据进行频繁模式挖掘
互联网为社交网络提供了更加广阔的发展平台,在以互联网为依托的社交网络中,信息的传播比传统“口口相传”的传播方式更加便捷和高效。社交网络中的影响最大化（Influence Maximization,IM）问题旨在从社交网络中挑选出6)个具有影响力的节点作为种子集,使得从种子集开始的传播可以获得最广的用户覆盖范围。该问题的解决有利于基于社交网络的信息传播预测、舆情引导和网络精准营销等。当前关于IM问题
社交媒体技术的快速发展给人们获取和传播信息带来了便利,但由于缺乏有效的自动化信息监管,导致谣言在社交网络中广泛传播,给网络空间安全和社会稳定带来了严峻挑战。如何实现有效的谣言自动检测,成为亟待解决的现实问题。早期谣言自动检测方法主要基于机器学习模型,严重依赖特征工程,费时费力且难以准确表示谣言的文本内容,因此,已逐步被基于深度学习模型的方法所取代。目前最新的基于深度学习的谣言检测方法主要是根据谣言