基于高斯分布的无监督图嵌入表示学习算法研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:bold_gm
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习发展迅猛,已应用于各个领域,无论是对声音数据、图像数据还是文本数据都获得了一定的成效。但由于图数据的特殊性,想要在图数据上使用深度学习方法并不轻松。大规模的图结构信息越来越广泛存在于各个领域,近年来将深度学习应用于图的研究也逐渐增加,从而在图分析方面的技术有了显著的进步。对于图嵌入和网络表示技术来说,当前存在的许多方法都将图结构中的节点表征为一个低维空间中的点向量,然而这样做会有一个局限性,即会损失掉表征的不确定信息。在一个复杂的图中,仅用一个低维点向量描述图中的节点时,不确定性是固有的。Graph2Gauss算法表征图的节点为一个完整的高斯分布,从而捕获到表征的不确定信息。本文主要研究如何更有效地将节点表征为高斯分布。首先,本文提出了基于Wasserstein距离的G2G算法改进。Graph2Gauss算法将图结构数据的节点嵌入为一个高斯分布,在隐藏空间中使用KL散度度量高斯分布之间的距离。严格来说,KL散度其实并不能作为一个衡量距离的指标。从KL散度的形式上看,KL并不具有对称性,且不满足三角不等式。进一步,在隐藏空间中度量对应图中节点的距离,不能保持图的传递性。然而传递性对于图和网络来说是非常重要的特性之一。本文在将图中的节点表征为高斯分布时,使用Wasserstein距离度量分布之间的距离。不同于KL散度,Wasserstein距离满足包括对称性和三角不等式等特性,这使得Wasserstein距离能够成为一个测量距离的指标,其中满足三角不等式,保证了Wasserstein距离能够使节点保持传递性。因此,Wasserstein距离非常适合作为测量隐藏空间内两点的指标。通过在五个真实数据集上的实验对比我们发现,本文提出的方法能够获得领先的效果,证明了算法的有效性。其次,考虑到嵌入空间中高斯分布的一般性,本文提出了基于Householder Flow的G2G算法改进。Graph2Gauss算法在表征图中节点为高斯分布时,只关注了隐藏空间中高斯分布的对角协方差形式,这样可以在一定程度上降低计算复杂度,但同时使得隐藏空间中的高斯分布缺少了一般性,不能足够灵活去匹配真实的后验。由于隐藏空间分布形状的限制,使得Graph2Gauss算法不能够完全的表达和匹配真正的后验分布。因此为了提高隐藏空间中分布的准确性,丰富生成分布成为了一种思路。本文提出使用Householder Flow泛化隐藏空间中的高斯分布。在多个数据上的对比实验结果验证了我们基于Householder Flow的G2G算法的有效性。
其他文献
随着互联网的迅速发展和智能设备的普及,网络上图像数据呈现出爆炸式的增长,如何从大规模图像数据库中快速且准确的检索出所需图像是一个亟待解决的问题,而图像检索技术为实
无线传感网络的覆盖问题是经典的NP-hard问题,近年来以无线传感网络为背景的圆盘覆盖问题越来越受到人们关注.出于容错方面的考虑,有大量工作研究多重覆盖问题.由于实际中要
钛基金属因具有较高的强度和较低的弹性模量,在医学上被广泛用作硬组织替代材料。但是,钛基金属也存在许多临床问题。主要表现在钛基金属属于惰性材料,无法与周围组织直接形
铁基非晶合金因其具有较大的过冷液相区间,优异的力学性能,耐磨耐腐蚀性能以及优异的软磁性能受到广泛关注。但由于加工方法不成熟,铁基非晶合金在工业生产中的进一步应用受
粮食数量安全事关粮食安全,研究开发方便、快捷、准确的在线及网络化国家粮食储藏数量监测技术,对于保障我国粮食储藏数量安全,提高粮食宏观调控能力具有十分重大的意义。本
随着无线互联网技术的发展,存在于网络上的各类实用信息不断增长,人们获取医疗健康信息的方式也随之改变。越来越多的人生病之后不再是第一时间急着看医生,而是通过搜索引擎
随着国内桥梁建设的快速发展,建筑钢筋使用量急剧增加。而普通钢筋在临海地区尤其是温湿条件下腐蚀加剧,缩短了建筑的使用寿命,使得建筑的维护费用大大增加。不锈钢钢筋的使
植物仿真是计算机图形学和三维动画技术的研究热点之一,在计算机视觉、计算机游戏和虚拟现实等领域都发挥着重要作用。花卉仿真作为植物仿真的重要分支,是三维虚拟景物仿真中
改革开放40年来,温州在时代巨变的浪潮下始终以敢为天下先的改革创新精神在不断变化、充满未知与不确定性的环境中,创造出了享誉全国的"温州模式"。基于哈耶克理性观的方法论
《蒙疆新闻》是由蒙疆新闻社在“蒙疆”地区发行的日文日刊报纸,1938年6月10日创刊,1945年停刊。作为在“蒙疆”地区及日本国内发行的报纸,该报以宣传“国策”和“蒙疆”为目