恶意代码的检测一直是网络空间安全中最重要的研究课题之一,近年来,随着机器学习及深度学习技术的发展,深度神经网络模型已经逐渐应用于恶意代码检测,并在应用中取得了不错的效果。然而,最近的研究表明,深度学习模型自身存在不安全因素,容易遭受对抗样本攻击。在不改变恶意代码原有功能的前提下,攻击者通过对恶意代码做少量修改,可以误导恶意代码检测器做出错误的决策,造成恶意代码的漏报。为此,本文从攻防两个角度,研究端到端恶意代码检测模型的对抗样本问题,借助模型解释方法分析恶意代码检测模型的决策依据,结合Windows操作系统下可执行文件格式的特性对恶意代码对抗样本的生成和防御开展了研究。现有的PE（Portable Executable）文件恶意代码对抗样本生成方法中,一般通过修改PE文件的冗余区域来向文件中插入扰动。为此,本文结合PE文件的结构特性,提出了一种恶意代码对抗样本检测方法。针对在程序冗余区域添加修改的一类对抗样本攻击,利用模型局部解释技术提取端到端恶意代码检测模型的决策依据作为特征,进而通过异常检测方法准确识别对抗样本。该方法作为恶意代码检测模型的附加模块,不需修改原有模型,相较于对抗训练等其他防御方法效率更高,能够防御多种对抗样本攻击。实验结果表明,该检测方法能够有效识别在文件冗余区域插入扰动的PE文件恶意代码对抗样本。考虑到现有工作中恶意代码对抗样本的扰动一般受限于PE文件冗余区域,为了进一步挖掘端到端恶意代码检测模型存在的决策漏洞,帮助建立更健壮的模型,本文探索了在PE文件节区域插入扰动的方法,提出了一种基于原型样本的PE文件恶意代码对抗样本生成方法。该方法通过生成目标恶意代码检测模型良性分类类别下的原型样本,提取良性样本的典型特征,并通过在PE文件中创建新节将特征嵌入恶意代码样本实现扰动。实验结果表明,该方法生成的对抗样本能够以90%以上的比例使目标模型做出错误的分类,同时对抗样本的生成效率要高于现有工作中的方法。综合以上两个方面,本文基于对恶意代码对抗样本问题的分析,提出了一种对抗攻击的防御方法,并以此为基础探索了一种对抗样本的生成策略,两种方法相结合可以用于恶意代码检测模型鲁棒性的提升。