随着大数据时代的来临,社交媒体中出现了越发丰富的文本信息数据,特别是在微博和贴吧之中。虽然信息化丰富了人们的生活,但带来的却是监管的困难。由于在社交媒体中常常充斥着一些负面的消息和情况,如果不加以管控,则有可能造成负面的影响,但是以人力难以对庞大的文本数据进行管控,因此如何通过计算机算法对文本信息进行有效准确的分类成为当前计算机领域的一项重要研究课题。根据数据集的样本尺度可以将文本分成短文本和长文本,而两类文本适用的分类方法也不相同。随着机器学习和深度学习的不断发展,文本分类技术也有了很大的进步,但是依旧存在许多问题。为了解决长文本在文本长度上给模型带来的影响,本文提出了一种基于层次结构的自注意力稀疏长文本分类算法。该方法提出将长文本先切分为不同的句子,通过对句子的处理从而得到相应句向量,再通过句向量获得长文本的文本表示,以这种层次结构来有效获得文本特征,避免了文本过长而导致的特征提取困难的问题。再者,为了解决模型无法捕捉重要特征的问题,通过在模型中加入自注意力机制抓取重要特征,通过对特征重要程度的判断,从而分配更多的权重值,得到更加正确的语义表达。最后,通过对RNN门控单元进行结构剪枝,在保证准确率的同时降低参数量,可以有效减少运算资源的使用,降低了运算时间。在此基础上与不同数据集进行实验,同时还与其他论文模型进行了比较,可以得出本模型的有效性。而针对短文本数据,为了解决在短文本分类中神经网络训练时产生的梯度消失、特征信息丢失以及注意力机制短语维度组合不匹配的问题,本文提出一种基于密集池化连接和短语注意力机制的短文本分类算法,该算法首先通过密集池化连接中的残差网络部分进行特征提取,可有效缓解梯度消失问题,并通过池化层复用重要特征,改善特征信息丢失问题。再通过改进常规注意力机制,提出短语注意力机制,可灵活的得到不同阶短语之间联系,解决常规注意力机制短语维度不匹配问题,通过最终实验得出该模型在所有的对比模型中取得了最优结果。本文所提出的两种模型可以有效的对不同维度的文本进行处理,有效解决在不同维度文本中存在的特征提取困难和特征丢失的问题,可以根据文本长度选择对应的处理方法,提高了文本分类效率。最后通过实验可以得出,本文模型可以有效的对通用数据集进行分类,并且具有良好的分类结果,愈发证明了本文模型的有效性。