肝癌的分子分型可以帮助患者进行个性化治疗以提高肝癌的治愈率,因此基于分子层面的肝癌亚型研究日益增多。新一代基因组技术的快速发展产生并积累了数以万计的肝癌基因组学数据,为人们创造了全方位、多层次地发掘肝癌发生机制的有利条件。但是肝癌组学数据往往具有样本少、维度高等特点,因此在肝癌亚型分类时,其分类模型受到了高纬度导致的噪声干扰,致使获得的分类结果准确度不高。因为肝癌亚型在不同组学数据上具有不同的特征表达,因此我们将多组学数据进行融合来研究对肝癌亚型分类的影响。而在不同组学数据之间的存在着一定的相关性,致使数据难以融合。针对上述问题,本文以肝癌的拷贝数变异、DNA甲基化、m RNA表达以及mi RNA表达等多个组学所构成的基因组数据为研究对象。通过分析肝癌的基因组数据同时考虑到组学数据之间的依赖性,设计了一种针对小规模数据集的层次化的分类方法,有效提高了肝癌亚型的分类准确度。第一:针对肝癌数据的高维性和复杂性,本文提出了层次化的堆叠降噪编码器模型。首先,利用堆叠降噪自编码分别学习每个组学数据的中间特征表示;其次,将所有学习到的中间特征表示融合到另一层自编码器中学习更复杂的高级特征表示;最后,将学习到的复杂数据表示作为Softmax层的输入,最终得到的肝癌亚型分类结果。层次化的堆叠降噪编码器既考虑到了各种类型数据的固有统计属性又保持了不同组学数据的相关性,这保证了组学数据多样性的前提下对数据实现了有效的降维学习并更好地融合了多组学数据。实验证明,层次化的堆叠降噪编码器能够在一定程度上提升对于组学数据的特征表达能力,进而提高分类模型的分类精度。第二:针对现有模型在肝癌亚型多分类问题上的分类准确度不高,本文提出了深度柔性神经森林模型。该模型是对柔性神经树的一种集成:首先,在每一层网络上集成柔性神经树来处理多分类问题;其次,为了不增加额外的参数,采用级联结构来加深网络的深度。本模型通过树形结构优化算法自动决定柔性神经树结构,并且自适应地调整整个级联层次的数量,从而适用于小规模的肝癌基因组数据。实验结果表明,本文提出的模型在分类准确率上优于支持向量机、随机森林、深度森林等分类模型,解决了肝癌亚型多分类的问题。