随着web2.0时代的到来和社交媒体的广泛兴起,短文本出现在互联网的各个角落。信息检索,广告关键字,网页标题,锚文本,在线问题,微博以及评论等信息都属于短文本。短文本更新速度快,易于产生,内容丰富多彩且规模量大,但是其本身字数少,内容稀疏,没有足够的信息量统计推断,使得机器理解其语义面临极大的挑战。此外,由于短文本通常不遵循语法,也使得传统的自然语言处理技术如词性标注和句法解析等,难以直接应用于短文本分析。但是短文本理解是关乎人工智能发展的基础性研究,对许多实际的应用场景具有至关重要的意义。文本聚类是文本分析的基础手段。话题模型是短文本聚类的有效方法,但其在短文本聚类应用中面临着高维、稀疏的问题。其中,词共现信息缺乏使得话题模型难以挖掘其潜在结构。研究发现:短文本词向量中存在的少量单词对簇结构学习尤其重要,相对而言噪声词产生的影响也较为明显。因此本文提出一种框架式具有词判别力学习的短文本话题模型,在诸如LDA、BTM及GSDMM模型中引入二项分布,来学习词对簇结构的判别力。多个基准测试数据集上的实验结果表明:新的词判别力模型LDA-λ、BTM-λ及GSDMM-X不仅可以促进簇结构的学习,还可以加快原有模型的收敛速度。为了进一步提高话题模型在短文本聚类应用中的效果,本文使用少量带有监督信息的样本指导聚类过程。利用多条件学习理论,将LDA、BTM以及GSDMM模型扩展为半监督聚类模型Semi-LDA、Semi-BTM以及Semi-GSDMM,以学习有监督信息样本与无监督信息样本的潜在结构。本文在多个基准测试数据集上进行了实验,并且对比了加入词判别力学习后的半监督话题模型Semi-LDA-λ、Semi-BTM-λ以及Semi-GSDMM-λ。实验结果表明:加入监督信息有助于提高话题模型在短文本聚类中的有效性。