随着移动互联网的发展,选择网上购物的群体数量逐年增加,同时也产生了海量的评论文本,用户评论文本表达了顾客对购买商品的主观情感倾向。分析用户整体的情感倾向,以及针对不同方面的情感,可以帮助其他顾客更好的做出购买决策,也能够让商家了解用户喜好,改进产品并提高销量,因此具有重要的研究价值。然而很多文本没有天然的情感标签,如何利用机器学习或者深度学习解决标签数据不足这一问题,成为情感分析的一大难点。本文主要针对网购产品的用户评论进行句子级情感分析以及方面级情感分析,为了解决标签数据不足的问题,本文主要采用预训练的建模策略。在句子级情感分析任务中,提出基于预训练语言模型的GRU情感分类。首先,采用RNN神经网络GRU单元预训练语言模型,得到训练好的语言模型,并利用冻结和微调两种迁移学习方法,将其中的浅层网络参数迁移到结构相同的情感分类模型中。其次,为了解决传统RNN的句子表示存在一定偏差的问题,采用池化层进一步提取文本特征,对隐藏层的输出向量做平均池化与最大池化,再拼接最后一个单元的输出向量,作为整个句子的向量表示。最后,通过网络爬虫技术获取京东商城的手机评论文本,并作为实验数据集。实验结果表明,与传统机器学习和未预训练模型相比,本文提出的基于冻结的预训练语言模型准确率最高,同时改进传统的文本表示方法也能在一定程度上提升模型效果。针对方面级情感分析,本文进一步提出基于预训练语言模型的方面级情感分类。与句子级情感分析类似,采用冻结和微调两种方式对浅层的嵌入层与GRU隐藏层进行迁移学习。不同之处在于,后续情感分类模型采用结合Attention机制的方法,主要思想是根据给定的方面信息,对隐藏层特征赋予不同的权重,得到不同的文本表示,然后进行情感分类。最后采用五折交叉验证进行实验对比分析,发现采用微调的预训练模型准确率与F1-score比未预训练的模型均提高10%左右。