近年来,网络攻击越来越复杂多样,传统网络攻击检测方法存在着诸多问题与挑战,例如检测率低、无法检测未知网络攻击等。机器学习的应用为提高网络攻击检测效果提供了可能,研究更加有效的基于机器学习的网络异常检测技术具有重要的理论意义和实用价值。本文在现有研究基础上,针对不同的应用场景,分别使用有监督学习和无监督学习技术,提出了两种基于机器学习的网络流量异常检测算法。主要工作及成果如下:（1）针对能够收集大量网络流量数据并进行标记的应用场景,本文提出了一种基于分类器选择—加权投票集成学习（CS-WV Ensemble Learning）模型的网络流量异常检测算法。该模型首先对差异性度量方法进行改进,并根据改进的差异性度量方法提出分类器选择算法,算法根据每个基分类器的预测精度以及基分类器之间的差异性从候选分类器中挑选出适合作为集成学习的基分类器;然后对加权投票算法进行完善,把每个基分类器的准确率作为权重,并对分类器选择算法选出的三个基分类器（Logistic Regression,K Neighbors,Decision Tree）进行加权投票集成,取得分最高的类别作为集成学习的最终结果。实验结果表明,本文提出的CS-WV Ensemble Learning模型在天然气管道数据集上的Accuracy、Precision、Recall和F1-Score分别为98.87%、98.69%、93.54%和96.05%,AUC值为0.97,相比其他算法显著提高了异常检测的准确率,减小了误报率。（2）针对拥有大量未标记网络流量数据的应用场景,本文提出了一种基于遗传算法的改进K-Means网络流量异常检测模型。该模型首先对遗传算法进行改进,其中选择算法使用精英保留策略和二次选择相结合的算法,同时改进交叉概率和变异概率,使其能够根据适应度值进行自适应改变;然后将该遗传算法与K-Means算法相结合,使得K-Means算法能够在迭代的过程中自动确定K值和每个簇的聚类中心,而无需在训练前确定K值,并将聚类结果的输出作为异常检测的结果。实验结果表明,本文提出的基于遗传算法的改进K-Means模型在CIC-IDS-2017数据集上的Accuracy、Precision、Recall和F1-Score分别为93.522%、95.438%97.548和F1-Score为96.481%,相比其他无监督算法显著提高了异常检测的准确率,减小了误报率。