近年来,云平台得到广泛普及,基于云的相关应用技术成为了研究热点,云平台也在信息和互联网技术中扮演着不可或缺的重要角色。但是随着云平台的快速发展,云平台面临的威胁也在与日俱增,普通恶意软件的危害放到云平台上可能就会造成几百上千倍的损失。云平台网络监控的性能开销大且云平台大量的恶意软件变种更新频繁的问题日益突出。为了能够保障云平台的安全,抵御恶意软件及其变种的攻击,研究未知恶意软件变种预防具有重要意义。本文针对基于对抗学习的云端恶意软件变种的检测技术展开研究,重点介绍了 Windows恶意软件的检测以及对抗学习的相关工作,设计并实现了云平台恶意软件变种的一种主动防御方法,本文主要完成了以下两个方面的工作:1)设计一个基于静态特征的Windows恶意软件检测模型:MSG模型,此模型针对Windows应用进行静态特征提取,通过反汇编提取恶意软件的操作码,使用SimHash算法和双线性插值算法进行恶意软件可视化。之后使用生成对抗网络生成能够躲避检测器对抗样本,并将对抗样本重新加入到训练集中对检测器进行重训练,使其具备了识别恶意软件变种的能力。2)设计一个基于云平台下的Windows恶意软件主动防御系统:MalDefender系统,核心是针对云端的Windows恶意软件检测设计了一个主动防御插件,该插件能够加入到其他任何基于学习的恶意软件检测器,当识别到待检测文件为对抗样本时直接标记为恶意样本,如果是正常样本,则是输入到后面的检测器中,这可以识别并防止检测系统遭到对抗样本的攻击。根据云平台文件种类繁多的特点,快速大量地升级对抗样本的数据库,使得检测器能够更好地识别这些对抗样本,实现主动防御。