随着网络信息传输技术的进步,当前世界正处于信息爆炸增长的局面,人们对于发送或接收信息的安全性要求也越来越高。为了提高网络信息的安全性,加密技术广泛应用到信息的传输过程之中,目前绝大多数流量以密文的形式进行安全传输,传统的流量识别技术难以对加密流量进行高效识别,对于网络管理者以及服务提供商来说,需要提出一种有效的加密流量的识别方法,这是保障网络安全以及保证服务质量的重要前提。网络用户对于不同应用程序的使用频率是不同的,所以获取或使用的数据集通常会出现样本不均衡的的情况。为了解决这一问题,提出了COUT算法,COUT算法以K-means算法思想为指导,并且结合了过采样与欠采样技术。COUT算法不仅解决了SMOTE算法容易产生噪声点的问题,还解决了随机欠采样算法盲目删除样本的问题。通过四组实验比较了COUT算法、SMOTE算法和随机欠采样算法对样本识别精度产生的影响,结果表明COUT算法可以提高模型识别精度且提升效果优于其他算法。针对传统流量识别方法不能对加密流量进行有效识别的问题,提出了BiLSTM-BahAttention网络模型,该模型在BiLSTM模型的基础上将原模型中的Sigmoid激活函数与Tanh激活函数替换为Leaky Re LU激活函数,提高了模型收敛速度,避免了梯度消失问题;并引入了注意力机制Bahdanau Attention,进一步提升了模型的特征提取能力。为了检测BiLSTM-BahAttention网络模型对加密流量的识别能力,本文选用ISCX VPN-Non VPN 2016数据集,首先通过样本去噪、样本长度规范化和COUT算法等对原数据集进行预处理,之后将实验样本通过BiLSTM-BahAttention网络模型进行识别,最终在VPN六分类实验与VPN-Non VPN十二分类实验上得到的F1-Score与Accuracy均优于网络模型CNN、RNN以及BiLSTM。