随着Internet的深入应用，企业及政府中的重要应用系统被入侵的危险越来越大，信息安全成为日益关注的重要问题。基于静态系统观点的传统安全策略(例如防火墙，访问控制，加密等)无法满足系统安全的需求。入侵检测是一种动态的监控、预防、抵制系统入侵行为的安全策略。入侵检测通过监视和分析计算机主机或网络中发生的事件，寻找违反安全机制的入侵行为。 入侵检测通常采用机器学习等“主动”学习策略，通过建立检测模型，检测主机或网络中可能的攻击行为。支持向量机(SVM)基于统计学习的VC维理论和结构风险最小化的原理，专门针对有限样本的分类问题，具有分类效果好、全局最优、算法复杂度与样本维数无关等优点。本文在分析已有的SVM算法和入侵检测算法的基础上，完成了基于SVM的系统调用序列入侵检测算法的研究。其内容包括： 首先，对机器学习原理和SVM算法进行研究，分析了C-SVM，One-ClassSVM和SVDD-SVM算法的原理和特点； 其次，总结了现有的入侵检测模型，定义入侵检测算法的性能评价标准，详细分析了现有的入侵检测算法的原理和特点； 其三，针对监测特权进程的入侵检测系统，设计了基于系统调用短序列距离的核函数(SSD核)，证明了SSD核的合法性。在C-SVM和One-Class SVM算法的基础上，设计了基于SSD核非平衡C-SVM的系统调用序列异常检测算法和基于SSD核One-Class SVM的系统调用序列异常检测算法。 其四，通过实验验证两种异常检测算法的有效性，并对实验结果进行了分析。 最后，本文展望了基于SVM的入侵检测的前景和进一步的研究方向。