近年来,信息技术应用的广泛和深入导致网络安全问题日益突出。软件定义网络(Software Defined Network,SDN)的兴起推动了网络信息安全的发展。现有入侵检测系统和设备大多独立部署,难以协同;此外,它们都基于特征匹配和模式比较进行检测,难以智能地识别未知攻击。人工智能(Artificial Intelligence,AI)技术的引入克服了传统入侵检测的弊端和局限。本论文在软件定义网络的环境下,对基于人工智能算法的网络入侵检测的体系架构和技术手段展开研究。本文首先阐述了入侵检测(Intrusion detection)的概念和模型,着重介绍了入侵检测的分类和常见技术,同时对本研究中实验所用数据集和仿真的评价指标进行了说明。论文基于SDN技术在网络安全上应用的优势,以入侵检测为目标,提出SDN中基于机器学习的智能入侵检测系统。在系统的智能层,利用随机森林算法(Random Forest,RF)进行典型特征的选择,利用k-means++和Adaboost的组合算法进行基于流分类的网络入侵检测。通过与已有系统进行对比,验证了本入侵检测系统检测的有效性和性能的优化性。论文还提出了基于改进AI算法的two-stage入侵检测技术,在特征选择和流分类两个关键步骤,分别改进蝙蝠算法(Bat Algorithm,BA)和随机森林算法。基于公开数据集对改进算法及其组合进行训练和仿真,并和原始算法以及现有机器学习算法组合进行对比:改进算法能够更有效地选择优化特征子集,增强了流分类的能力,提升了对不同类别攻击的检测精度。