近年来,随着互联网技术以及数字经济的快速发展,针对高价值资产的网络攻击事件逐渐增加,其中勒索软件作为该类攻击事件中的主要扮演者,已成为当前网络空间安全面临的重大威胁之一。目前国内外研究者已经提出了多种勒索软件检测方法,但基于网络的勒索软件检测方法大多针对特定的勒索软件,基于静态的主机检测方法对勒索软件检测效果不佳,而基于动态的主机检测方法需要较长的时间才能检测,不能满足勒索软件及时检测的需求。本文在基于机器学习的勒索软件检测框架下,分别从静态和动态两个方面提取两种特征分别构建勒索软件检测模型。首先,为提高勒索软件的检测效果的同时减轻特征工程,提出了一种基于图像特征的勒索软件检测方法,方法将勒索软件字节序列可视化为三通道彩色（Red Green Blue,RGB）图像,并建立基于压缩激励模块（Squeeze and Excitation block,SE）和视觉几何组16（Visual Geometry Group16,VGG16）的检测模型SEVGG,将可视化后的RGB图像输入到SEVGG中进行模型训练以及检测;其次,为进一步提高对未知勒索软件样本的检测效果同时满足勒索软件动态检测的及时性需求,通过分析不同家族的勒索软件运行过程,从勒索软件及时检测的角度提出了“勒索软件检测关键时间段（Critical Time Periods for ransomware detection,CTP）”的概念,并进一步提出了一种基于动态应用程序编程接口（Application Programming Interface,API）调用的勒索软件早期检测方法（Ransomware Early Detection Method based on API Sequence,REDMS）,方法以软件在CTP内执行所调用的API序列为分析对象,通过n-gram模型和词频-逆文档频率算法（Term Frequency-Inverse Document Frequency,TF-IDT）对采集到的API序列进行计算以生成特征向量,然后运用机器学习算法建立检测模型对勒索软件进行早期检测;最后通过搭建实验环境进行实验验证。实验结果表明一种基于图像特征的勒索软件检测方法能够以高准确率检测勒索软件及其所在家族;一种基于动态API调用的勒索软件早期检测方法能够以高准确率在短时间内检测出已知和未知的勒索软件样本,并且在多类型恶意软件场景下也有一定检测效果。