随着互联网的发展,网络的应用日益广泛,网络管理和流量监测的难度也在不断增加,为了达到有效监控网络流量和合理配置网络资源,必须实现对流量中的协议类型准确区分。随着网络的发展,出现了新的协议,同时一些网络协议呈现新的特点,给网络协议的识别带来了新的挑战。本文深入的分析了基于端口识别技术、基于内容的识别技术和基于流量特征的识别技术,并介绍了其工作原理和各自的优缺点。在此基础上本文主要完成如下工作:(1)基于内容的协议识别技术中为了更好地完成识别,在分析传统报文特征的基础上,进一步提取和明确协议特征要素,并基于XML设计出协议识别规则,将特征规则以XML的形式保存起来,以方便后续的识别匹配过程。(2)针对包负载特征匹配的计算开销比较大的问题,为了提高协议识别的效率和准确率,本文提出了基于索引分簇的高效协议特征匹配算法,在此基础上对基于索引分簇的高效协议特征匹配算法进行性能测试,通过实验结果证明该算法具有较高的准确率。(3)另外,针对基于内容协议识别技术无法对加密协议进行有效识别的问题,本文提出了基于载荷临近概率模型的加密流量识别方法,首先提取明文流量特征向量,该过程主要是构建载荷临近概率模型和基于熵值对特征进行提取,接着利用机器学习的方法对未知流量进行识别,最后通过实验证明该模型的有效性,而且该算法对流量识别具有较高的准确率。