随着信息时代的发展,网络上的数据信息海量增长,用户在搜索想要的信息时通常效率较低且十分耗时。标签是对信息的简单描述,为文本推荐合适的标签是组织和使用文本内容的一项有效手段,近年来越来越受到研究人员重视。目前现有的标签推荐方法研究主要分为基于传统语义的标签推荐方法和基于深度语义的标签推荐方法。基于传统语义的标签推荐方法一般是通过基于人工提取特征进行文本语义挖掘,推荐效果不尽人意。近年来,随着深度神经网络的迅速发展,使用其提取文本特征可以有效地挖掘文本的深度语义,从而解决传统文本标签推荐方法面临的诸多问题,因此受到了越来越多的重视,成为了近期的研究热点。目前大部分基于深度语义的标签推荐方法主要是通过挖掘文本内容中的深度语义来进行推荐。然而,大部分数据信息并非独立存在,如语料库中的文本间词共现关系可形成复杂的网络结构。由于该类方法仅仅考虑了文本内容信息,忽视了文本间的网络结构信息,从而影响了标签推荐的准确性。同时,目前常用于标签推荐的深度神经网络模型主要为卷积神经网络和循环神经网络,忽略了其他更为合适的模型,如语言模型和预训练模型等。针对上述问题,本文在已有研究工作的基础上,主要做了以下两个方面的工作。1、本文提出了一种融合网络结构信息与文本内容的标签推荐方法。该方法首先将文本与词汇作为节点构建异构文本图,利用图卷积神经网络提取文本间网络结构特征;然后利用循环神经网络模型对文本特征进行编码以获取文本顺序语义特征;最后利用注意力机制融合文本间网络结构特征与文本顺序语义特征进行标签推荐。实验结果表明,该方法可以有效改善标签推荐的效果。2、本文提出了一种基于Transformer结构的标签推荐方法。该方法将文本与每个候选标签组成文本-标签对,并对文本-标签对进行编码,以捕获基本的匹配关系;然后使用自注意力掩码矩阵,通过预训练好的大型语言模型,将标签推荐任务作为下游任务进行处理。实验表明,该方法明显优于目前大多数基于深度语义的标签推荐方法。