论文部分内容阅读
针对文本分类中的特征选择问题,在传统RNN的基础上设计一种基于注意力机制的双向长短时记忆神经网络模型。其中双向的LSTM网络解决了传统RNN的梯度消失问题,并且能够更加充分地利用句子的上下文信息[1]。加入注意力机制的模型可以获得含有输入序列节点注意力概率分布的语义编码,从而在特征向量提取过程当中消减了信息的损失和冗余。通过与传统LSTM的对比实验,证明该模型的准确率和稳定性较传统方法有进一步提高。