面向视觉分类模型的投毒攻击技术研究

来源 :太原理工大学 | 被引量 : 0次 | 上传用户:whhdgcr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
现如今,深度学习已经在很多的领域得到了广泛应用,并且深度学习已经变成了人工智能领域的关键,然而,较为先进的神经网络都需要庞大的数据集进行训练以及较长的训练周期,这就使得攻击者可以在训练集进行投毒攻击,从而破坏模型性能。因此,研究投毒攻击技术可以在提高攻击成功率同时增强其隐藏性,造成更大的威胁。投毒攻击是针对深层网络的一种对抗性攻击,投毒攻击中的后门攻击是一种不同类型的攻击,攻击者选择一个特定的触发器,基于该触发器开发一些有毒数据,并且攻击人员将带有隐藏触发器的中毒样本混淆到训练样本集中,通过少量的中毒样本来操纵训练器中数据的分布,使得测试样本错误分类以达到改变模型正确分类的行为和降低模型精确度的目的。经过训练的深度学习模型将在常规的干净数据上产生正确的结果,仅在隐藏的触发器被激活时,才会在含有触发器的中毒样本上错误分类,因此受害者并不会意识到模型被破坏了。而现有触发器的弊端是:样本无关性,即无论采用什么触发模式,不同有毒样本都包含相同触发器。一个流行的例子是:不同样本的投毒攻击采用的触发器可以都是交通标志上的一个小贴纸,分类模型会错误将“停止标志”、“限速标志”以及“禁停标志”等错误分类。因此,触发器成为了影响投毒攻击成功率的关键因素,本文基于对触发器的结构以及嵌入方式研究,首次将图像隐写技术与深度卷积对抗网络(Deep Convolution Generative Adversarial Networks,DCGAN)结合,对视觉分类模型进行投毒攻击,并在此基础上实现了动态触发器,通过实验验证了这两种方法的可行性。实验结果表明,相比于传统方法,本文提出的嵌入类别特性触发器的投毒攻击和生成动态组合触发器的投毒攻击在攻击成功率上均可达到56%左右。针对投毒攻击中触发器固定性以及单一性改变的任务,本文的主要研究内容及成果分为以下两个部分:第一部分提出一种嵌入类别特性触发器的投毒攻击方法。根据干净训练样本的灰度共生矩阵生成图像纹理特征图,利用图像隐写技术将目标标签字符转换成二进制代码作为触发器嵌入纹理特征图中,然后将带有触发器的纹理特征图和干净样本拼接成中毒样本,再将其作为输入图像通过DCGAN生成大量带有触发器的“假图”。训练样本集中将原中毒样本以及DCGAN生成的“假图”混合起来,最终达到投毒者注入少量的中毒样本但拥有较高的攻击成功率的效果,并保证了触发器的有效性、可持续性和隐藏性。实验结果表明该方式避免了样本无关性的弊端,并且可以使得该投毒攻击方式能逃过现有的某些防御方式同时拥有较高的攻击成功率。第二部分提出了一种生成动态组合触发器的投毒攻击方法。利用目标检测获取ROI区域,并对ROI区域进行分割,分割成预定个数的不同位置的子图像,再将子图像作为生成器的输入生成对应的虚假子图像作为中毒样本的子触发器,利用子触发器图像和干净样本之间的局部相似性对每个子触发器进行嵌入,所有的子触发器共同组成中毒样本的触发器,以此来实现触发器的特异性。动态组合触发器同时满足了触发器的多样性、特异性、健壮性以及隐藏性等。实验证明了同一个触发器放在特定的测试样本上可以实现错误分类,但是放在其他随意的测试样本上达不到预期的攻击效果。
其他文献
随着我国遥感技术的日益精进,越来越多搭载着多模式多用途传感器的对地观测卫星被成功发射进入太空,使我们获取到了多样化的地面观测数据,其中高分辨率光学遥感图像中包含了丰富的地物信息,在自然灾害检测、智慧城市建设、现代化军事战争等民用以及军事方面都得到了广泛应用。同时,关于高分辨率光学遥感图像目标检测的相关研究也引起了专家学者们的持续关注。虽然基于深度学习的目标检测算法在自然场景目标检测领域中已经取得了
学位
情感分析是自然语言处理领域的研究任务之一,狭义定义是对带有主观情感倾向的文本内容进行处理和推理。但由于多媒体技术的发展,互联网上的用户生成内容不再局限于文本,越来越多的图片和短视频数据涌现在各大平台。这些在线信息,尤其是评论信息中蕴含了人们的态度和情感倾向,借助多模态情感分析技术对其进行处理挖掘,能帮助产品或服务商评估产品性能和了解用户偏好,进而也促进互联网智能推荐技术发展。基于互联网评论形式多样
学位
癌症是一个全球性的公共问题,在所有消化道癌症病例中,直肠癌患者的发病率和死亡率均位列第一,危害着人类的生命健康。目前,磁共振成像技术可以为直肠癌患者提供更高的软组织对比度和无辐射影响,已成为应用最广泛、最有效的直肠癌检测方法。随着直肠癌早期筛查的普及,大多数直肠癌患者能够在早期发现并得到及时的治疗,明显提高了患者的生存率。在早期筛查中,放射科医生需要根据患者的医学影像特征,并结合丰富的临床经验进行
学位
中华鼢鼠是石桥林场所辖森林资源的重要危害之一,其主要吞噬树木的根系,严重影响着树木的成活率和保存率,以及生态建设的可持续性发展。中华鼢鼠给生态建设带来了无法估量的经济损失。本文就中华鼢鼠的生活习性、分布区域,侵害的树种做一探讨,并结合石桥林场这几年采取的有效防治办法,总结出了具有可操作性的防治措施。
期刊
身份识别在金融安全、安防等领域的重要性日益增加,而人脸识别由于其方便快捷、性价比高等优点在日程生活中得到了广泛的应用,也是近年来的研究热点之一。当今世界正在受到新冠肺炎疫情的冲击,人脸识别相较于指纹和身份证等身份识别方式,具有不需要接触特定传感器的特点,从而可以减少公共场所内的不必要接触,一定程度上减少了疫情传播的风险。由于新冠疫情的影响,佩戴口罩出行成为人们的生活准则,而口罩的遮挡使得采集到的人
学位
信息时代技术发展越来越快,数据量剧增,例如在工业生产领域,多晶硅及碳碳复合材料生产过程中涉及到的生产因素比较多,会产生大量的生产数据。如何充分利用数据挖掘技术对上述数据进行分析以提高实际生产效率是本项目的研究重点。聚类算法是数据挖掘中一种重要的数据分析手段,模糊C均值算法(Fuzzy CMeans,FCM)作为软聚类算法,主要采用隶属度确定样本所述类簇。FCM主要缺陷是需要人工设定类簇数目及初始聚
学位
精神分裂症是一种复杂且致残率高的慢性精神疾病,给患者及其家属带来沉重的负担。准确地诊断精神分裂症可以及时抑制患者病情发展并给予进一步治疗。目前,精神分裂症的诊断主要依赖于主治医师的经验以及相关量表,过程复杂且缺乏客观的标准,同时早期的精神分裂症患者并不会表现出明显的行为异常,这极大增加了精神分裂症的诊断难度。近年来脑影像学技术逐渐成熟,静息态功能磁共振成像(resting-state functi
学位
随着工业化进程的快速发展,人们的物质生活水平得到极大的提高,但同时也造成了有毒有害气排放和易燃易爆气体泄露等问题。由于人类对这些气体的感知能力有限,因此,需开发高性能的传感器实现对这些气体的有效检测。目前,金属氧化物半导体气体传感器由于生产成本低、制备简单、使用方便以及能够检测大量气体等优点,在气体检测领域得到了广泛应用。众所周知,对于金属氧化物气体传感器,其敏感材料对传感器的性能具有重要的影响,
学位
现代社会,脱发已经成为一个普遍的现象,毛囊移植是治疗脱发的最有效方法。然而,供体面积不足、移植密度低、成活率低等问题明显影响了治疗效果。此外,毛囊作为皮肤的重要组成部分,其再生对于皮肤再生也是非常必要的。毛囊组织工程的研究是解决上述问题的有效方法之一。生物三维(3D)打印技术能够同时沉积活细胞和生化分子(如生长因子)与生物材料支架在期望的位置,以模拟本地组织结构或创建一个特殊设计的3D微环境,近年
学位
虽然车牌检测技术已经日趋成熟,但雾霾环境下采集到的低质量图像会出现色彩及对比度等特征的衰减,降低了基于图像的车牌检测算法的准确度,这对诸如电子警察、自动驾驶等基于计算机视觉的智能化工具造成了极为不利的影响。目前针对雾霾条件下车牌检测的研究成果相对较少,因此通过研究提升雾霾条件下的车牌检测精度,对提高交通管制能力,提升不良环境下的道路安全性具有重要的实际意义。本文提出一种雾霾条件下的无锚框车牌检测算
学位