对抗环境中对毒化攻击的鲁棒学习算法

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:fengye3355
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着智能化生活的不断深入,机器学习逐渐从学术领域迈向了现实生活。然而在现实应用中,总是有一些攻击者试图攻击学习过程从而从中获利。在这个存在攻击者的情况下,如何保障机器学习的效果成为了人工智能领域中一个热门的研究方向。其中对于学习过程至关重要的训练集一旦被攻击者攻击,甚至只需要攻击很少的一部分数据都会使得整个学习过程的效果大打折扣,在学术领域中,攻击训练集的研究为对抗性环境下的毒化攻击的研究,因此如何抵御对抗性环境中的毒化攻击成了一个十分重要且具有现实意义的课题。本文针对现有的毒化攻击防御常用的算法很难解决具有很少的验证样本和不特定的基础分类器下的问题。引入了迁移学习算法概念,验证了迁移学习算法在对抗性环境下抵御毒化攻击的可行性。并针对原本的迁移学习算法在毒化攻击下存在的问题做出了一些改进。以下为本文的研究内容和创新点。本文引入迁移学习中的实例迁移经典算法TrAdaBoost来对抗毒化攻击问题中的标签翻转攻击。通过实验验证了使用迁移学习算法在验证集很少的情况下对于毒化攻击的对抗的可行性,以及较之毒化攻击常用的抵御方法更加稳定的效果,并且并不局限于一种特定的标签攻击方法和基础分类器。在此基础上,从TrAdaBoost算法本身以及毒化攻击样本对算法学习过程的影响的角度出发,讨论了直接使用原本的TrAdaBoost算法的问题以及改进方向。基于迁移学习算法TrAdaBoost能够有效的抵抗毒化攻击,且算法在对抗性环境中有些不适应的部分的情况,本文提出了4个改进的算法。分别为:改进TrAdaBoost算法中目标数据集的权重更新方式,使得每次学习时从不同的角度学习目标数据集以便更加充分的吸收目标数据集的知识,并且将目标数据集的训练误差作为了知识的一种看待;在最终分类器形成时,基于对抗毒化攻击即降低攻击样本对学习过程的干扰的最终目的,将目标数据集的权重重置为与辅助数据集相似;将前两种改进结合;最终分类器使用最后一次迭代生成的分类器。其中通过不同数据集的实验以及后两种算法的结果验证了前两种改进在对抗性环境下的毒化攻击的抵御上有较好的鲁棒性。
其他文献
当前,俄罗斯远东地区正在成为东北亚地区新的经济增长点。同时国务院批复了《中国东北地区面向东北亚区域开放规划纲要(2012-2020年)》,体现了国家加快东北地区对外开放、面
元认知是个体对自己认知状态和过程、思维活动和水平的意识和调节;元认知由元认知知识、元认知体验和元认知监控三部分组成。学业成绩优秀者一般元认知水平较高,而学业成绩落
目的探讨复方谷氨酰胺治疗活动期溃疡性结肠炎对患者肠道屏障功能及外周血中基质金属蛋白酶-2(MMP-2)、基质金属蛋白酶-9(MMP-9)的影响。方法 40例溃疡性结肠炎患者随机分为
背景及目的艾滋病人感染HIV后损伤中枢神经系统(CNS)导致的艾滋病毒相关神经认知紊乱(HAND)。HAND的发病机制目前尚不明确,HIV感染后并不会直接引起神经元损伤,而是通过感染单核细胞等透过血脑屏障(BBB)进入中枢神经系统。研究发现HIV病毒释放的相关蛋白是促进HAND发生发展的主要因素之一。HIV调节蛋白Tat是一个关键的病毒跨神经元损伤因子,是转录反式激活因子,对转录的调控、病毒复制十
近年来,无线业务的迅猛增长造成了无线频谱资源十分紧缺的局面。为了解决该问题,人们提出了一种基于认知无线电的频谱共享思路:让次级用户在不影响主用户正常使用的情况下与
目的:探讨彩色多普勒超声引导下无水酒精治疗胎盘植入(placental implantation),分析其有效性、安全性及临床应用价值,以期寻找既能保留患者生育功能又能有效治疗胎盘植入的
<正>"看这儿——冰岛的西部海岸,你看见冰岛的首都雷克雅未克了吗?看见了!好,再顺着受海水侵蚀的海岸旁的这些数不清的峡湾往上看,注意纬度65°下面一点的地方,你看见什么东
为筛选出防除水稻田禾本科杂草的适宜药剂,现以20%氰氟草酯和10%氰氟草酯为供试药剂,对其防除效果及使用成本进行了试验研究。结果表明,每667 m^2施用10%氰氟草酯100 mL、20%
针对无刷直流电机(Brushless DC Motor,BLDCM)模型参数时变的特性,为解决不同工况下的转速跟踪问题,将Laguerre函数引入控制器设计中,提出了一种新型的广义预测控制算法。该
<正> 一、SACEM系统的产生及运营效果 巴黎城市交通系统,具有15条地铁线,2条RER线,全交通网约有400个车站,每天输送旅客超过六百万。 在这个交通网中,RER—A线位于穿越巴黎最