现如今恶意代码数量以爆炸式的速度增长、复杂度和破坏力不断增强、恶意代码技术创新越来越频繁，使得传统的以人为监控资源操作的恶意代码分类越来越困难，能够自动化分析、高效率处理、支持大规模恶意代码处理的分析系统才能应对未来恶意代码的发展趋势。　　本文研究了Linux平台下恶意代码系统调用的自动化抽取方法，搭建了自动化恢复快照的虚拟机平台，通过使用SSH实现虚拟机与宿主机之间的命令通信和文件传输，增强了分析的隐蔽性和实用性。同时研究了恶意代码相似度的判定方法。获取到恶意软件系统调用序列之后，利用聚类算法对系统调用序列集合进行聚类，从而得到恶意软件基于行为的分类。将恶意代码系统调用序列当作文本，利用文本相似度计算系统调用序列之间的相似度从而确定恶意代码行为的相似性。在大数据的思想里很重要的一点在于将因果性转到相关性来，传统的恶意软件分析方法注重恶意软件的功能，从功能角度来判定恶意性，然而对恶意软件的功能分析需要较长的工作周期。本文采用自动化分析技术，系统能够分析处理大规模恶意代码样本；采用mapreduce并行化算法，提升了恶意代码的分析效率；采用大数据相关性挖掘方法，从大量样本中挖掘行为相似的恶意代码，大大缩减了恶意代码分析的周期。