联合学习中的分布式毒化攻击分析与防御

来源 :东华大学 | 被引量 : 0次 | 上传用户:asherrrrr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
联合学习中每个参与者不能互相沟通,训练集与外界隔离,无可信赖的权威第三方检验训练样本的真实性与正确性,所以联合学习容易受到通过污染本地训练集而影响全局模型的毒化攻击。针对传统的集中式学习的毒化攻击已经得到广泛的研究,而对联合学习的分布式毒化攻击还未得到多数研究者的关注,所以本文在实验过程中探究分布式毒化攻击对联合学习的影响,并结合欧几里得距离度量模型差距进行理论分析,最后基于对攻击的分析结果提出一种新的防御策略。
  首先,本文关注联合学习中分布式毒化攻击的影响因素对攻击效果的影响。通过对两个数据集进行多次多组实验发现:1)攻击成功率随毒化样本数增加而线性增长;2)联合学习系统中污染相同数量的训练样本时,攻击者人数越多,攻击效果越好;3)若增加攻击者人数,攻击成功率随恶意样本数量增加而增长的速率越快;4)全局毒化样本数与攻击者人数一定时,改变多名攻击者分配毒化样本的策略对攻击效果影响甚微。
  其次,本文提出利用欧式距离度量模型之间的距离,并在实验中发现诚实用户训练的本地良性模型之间的距离较小,分布在一个较小的区域内,攻击者的本地恶意模型与良性模型之间的距离较大,且所有攻击者拥有的污染数据越多,这个间距越大。基于此观察,本文结合模型间的欧式距离和几何知识分析了不同攻击条件对攻击效果的影响,得到的理论分析结论与实验结果一致。
  最后,基于对模型距离的观察与分析,提出Sniper过滤防御机制。Sniper无差别地在每轮参数聚合前对所有参与者上传的模型参数计算欧式距离,并以模型为节点、距离是否超过阈值为条件连接边构造图,参数服务器从中找出节点数超过参与者人数一半的最大团作为诚实用户进行参数聚合。通过在生成全局模型前进行模型过滤,忽略恶意用户的污染模型,Sniper成功地抵御联合学习中的分布式毒化攻击。即使攻击者人数达到所有参与者人数的1/3,Sniper也能够大幅度降低攻击成功率,甚至能够降低至2%左右。
其他文献
【摘 要】阅读教学是培养英语学科核心素养的重要途径。本文结合课堂教学实例,在语篇研读的基础上,设计了导入、读前、读中和读后四个教学环节,阐释了如何在阅读课中实现三维教学目标与核心素养的双重结合。  【关键词】核心素养;思维品质;三维教学目标  【中图分类号】G633.41 【文献标识码】A  【文章编号】2095-3089(2019)24-0187-01  一、课例背景  本节课为2018年四月北
期刊
【摘 要】小学英语教学作为小学阶段的一门重要科目,很多教师都会积极的探索更加有效的课堂教学策略,在不断的探索过程中,受到现代化教学观念的影响,也有很多的现代化教学方式开始融入到小学英语教学中,绘本教学就是众多教学方式中的一种,凭借其独特的特点和优势开始风靡于小学英语阅读教学中,给学生们带来十分明显的教学质量提升。本文就从小学英语绘本教学出发,探讨如何将绘本内容更加充分的应用到小学英语阅读教学中,发
期刊
现实世界中复杂交互的关系通常可以通过图来表示,如生物网络、社交网络等,这些图的边上往往具有表示特征的文本标签,如生物网络中的边标签可能是化合物之间转换的反应酶种类。在现实应用中,用户可能仅对某些个体之间特定的属性关系感兴趣。标签约束的可达性查询,用于回答有向图中从给定一个顶点出发,仅经过某些特定类型的边,是否可以到达另一个顶点。具体来说,就是确定图中是否存在从给定源点s到目标顶点t的路径,并且路径上的边标签属于预定义标签集L中的标签。然而,现有方法处理标签约束的可达性查询时,存在索引规模大或者查询效率低的
【摘 要】数学阅读素养是数学核心素养中的一种基本素养,数学阅读能力是数学关键能力中的一种基本能力,数学审题能力是数学基本能力中的重要能力,它一直制约着学生学业成绩、数学能力和数学思维的提升。依据当前学生审题过程中暴露出的问题,课堂教学改革实际,以及教育育人目标和价值取向,有针对性的加强数学深度阅读技巧指导,可有效提高学生审题过程中发现问题、分析问题、解决问题的能力,切实培养学生数学核心素养。  【
期刊
云存储作为一种提供数据存储服务,是在云计算的基础上进一步扩展和发展的概念。通过在不同的云服务器上存储数据块,可以减少用户的存储负担。为了提高数据的可用性,在分布式系统中存储冗余数据成为保证数据可用性的重要技术手段。然而,现有的冗余技术在保证数据可用性时各有优缺点。其中多副本技术,虽然能够高效的读取数据并对损坏的数据进行恢复,但需要消耗大量的存储空间。而为了提高存储空间利用率和安全考虑引入的纠删码技术,通过计算编码块进行数据冗余存储,虽然降低了存储空间,却在进行损坏数据恢复时,其编码与解码操作造成了较大的计
【摘 要】小学语文写作是小学课程的重要组成部分,写作教学的质量关系到学生的写作能力以及学生写作兴趣的培养。但在实际教学过程中,小学语文的写作教学仍然存在很多问题,导致教学效果不够理想,教学质量不佳,本文从小学语文写作教学存在的问题进行分析,并提出相对应的解决措施,以提高小学语文写作教学的质量,为学生的写作能力奠定扎实的基础。  【关键词】小学语文;写作教学;存在问题;解决对策  【中图分类号】G6
期刊
【摘 要】现在的阅读课教学,主要分为教读课文和自读课文。但是很多情况下都是由教师单篇式的精讲精练,学生被动地学习,死板地勾、画、记录教师讲授的重点、难点、考点,教师强调文道统一,只关注细化字、词、句地教学,反而忽略了学生的情感体验和自主性发挥。在这样的教学方式下,学生不能充分发挥主体地位,虽然在单篇的阅读学习上能够获得一定的知识,但是明显限制了学生的阅读量、也花费了大量的时间和精力,反而导致了教学
期刊
【摘 要】语文是解读人生、社会、生活、生命等问题的学科。它注重感悟学习和体验学习,即感悟、体验语文的文化内蕴和它所包含的文化精神,使学生在语文学习和技能训练的过程中得到情感的陶冶、心灵的建构、文化精神的内涵。在这一过程中,阅读就显得尤为重要。加强阅读教学,提高学生的阅读能力,是培养学生获得知识的有效途径,培养学生的阅读能力,是语文教师重要的教学任务和教学目标。  【关键词】小学语文;阅读教学  【
期刊
云计算市场近年来不断高速发展,云供应商不断地加入云服务市场,带来了质量更高、价格更低的云资源服务。云计算由于其能够提供几乎“无限”资源的特性,可以令个人或组织在无需构建基础设施的前提下,按照需要获取、配置和使用云资源,并按使用进行付费。不同的提供商提供了许多种类的云服务,它们有着不同的规格、不同的价格策略、不同的质量参数等。进行工作流调度时,传统计算平台难以灵活的配置需要的基础设施。因此,分布式环境下的工作流调度问题,已经从集群、网格等传统计算模式中寻求解决方案,逐渐发展到利用云计算等高效、成熟、便利的在
云存储的弹性扩展存储特性,为数据所有者远程存储数据提供了灵活的存储服务,也降低了数据所有者的存储运营和管理成本。这些远程存储在云服务提供商的存储空间中的数据,也给数据所有者带来了数据完整性方面的安全担忧,如数据的恶意损坏或删除等。数据完整性验证成为检测存储在云存储提供商空间中数据完整性的重要技术手段。然而,现有的验证方法仅考虑了一个验证者发起单个或多个数据验证挑战的情况,忽视了多个验证者在相对较短的时间内发起的多个数据验证挑战的验证开销给数据所有者带来的负担。同时,没有数据访问权限的用户对数据发起完整性验