基于高阶语义的跨模态检索方法研究

来源 :华东交通大学 | 被引量 : 0次 | 上传用户:qimao1986
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的发展,信息数据呈现爆炸式的增长,其呈现形式也不断增多,由传统的文本表现形式逐渐扩展为图像、语音、视频等多模态的表现形式。多模态数据之间存在相互关联、相互补充的关系,丰富了信息的表现形式以及内容。传统的文本-文本之间的单模态的检索方式已无法适应丰富多样的信息数据,文本-图像、图像-视频等模态之间的交叉检索更符合当下人们的需求,进行跨模态信息数据之间的检索具有重要意义。跨模态检索面临的主要问题是多模态数据之间存在语义鸿沟,即不同的模态数据虽然表示相同的语义信息,但模态之间数据表现形式不同,维度差异大,难以直接进行模态之间的度量比较。本文针对这个问题,以文本和图像两种模态为研究对象(其它多种模态可类比推理),从模态之间的高阶语义相关性入手,研究如何提高跨模态检索精度。主要工作内容和创新点有:(1)基于多模态数据的语义标注信息和对数据的稀疏结构要求,提出了一种基于高阶语义相关的子空间跨模态检索方法。该方法对多模态数据的语义标注信息进行处理,提取出高阶语义相关性,并引入L21范数作为稀疏规则化算子以满足联合特征选择的需求。在语义相关性和对数据稀疏约束的前提下,将多模态数据映射到公共子空间,使异构的图像和文本数据映射为无维度差异的数据,从而可以进行直接比较,有效提高了跨模态检索精度。(2)在基于高级语义相关的子空间跨模态检索方法的研究基础上,提出了一种基于超图排序的子空间跨模态检索方法。该方法主要分为子空间映射和超图排序两个部分,在子空间映射部分考虑多模态数据的高阶语义相关性和稀疏结构化约束,超图排序部分利用超图能够描述多个目标的多种相关性的特性,综合考虑多模态数据模态内及模态间的相似性,进一步挖掘多模态数据之间的语义相关性。将超图排序和子空间学习结合,进一步挖掘跨模态数据之间的语义关联,能进一步提高跨模态检索精度。
其他文献
传统的锂离子电池使用有机电解液存在易挥发、易泄露和易燃等安全隐患,而全固态电解质虽然在安全性能上有很大提升,但存在离子电导率低,界面阻抗大等问题。这些问题很难得到较好地解决,凝胶聚合物电解质(GPE)因具有离子电导率高,机械性能好,电解质与极片接触良好等优点而成为研究的热点。本论文以聚(偏二氟乙烯-co-六氟丙烯)(PVDF-HFP)作为聚合物的基体材料,选用二(三氟甲基磺酰)亚胺锂(Li TFS
1目的探讨健脾养肺汤(安徽省中医院周大勇主任经验方)对AECOPD呼衰机械通气患者的呼吸指标、动脉血气分析、机械通气时间、脱机成功率等方面的影响,评价其临床疗效,为临床中医
随着经济和社会的高速运转,城市及乡村建设规模日益增长,洪水预防问题与城市建设、经济发展和自然协调的矛盾也日益突出。喀左县大凌河工程区主要存在防洪体系不健全,防洪标
随着中国在世界范围内影响力的不断提高,汉语作为了解中国的“钥匙”,其重要性也愈加凸显,东南亚的许多国家已经将汉语纳入了国民教育体系,其中孔子学院数量最多的国家就是泰国,泰国作为东南亚汉语教学颇具代表性的国家,对其孔子学院的汉语教学情况进行考察和研究非常有必要。本文以易三仓大学孔子学院为研究对象,通过对学生学习情况、教师开展教学情况、课程设置、教材、教学设施以及孔院相关活动组织情况进行调查,总结易三
石油沥青纸胎油毡作为主要的屋面防水材料在我国有着很长的使用历史,在20世纪50年代至90年代初,其被大量用于屋面防水建设。油毡的使用寿命为15-20年之久,所以至今为止这些油毡大部分已达到使用寿命,成为了一种废弃物。通过回收废弃石油沥青纸胎油毡以制备废弃油毡改姓沥青及其混合料用于道路建设,不仅能够减小固体废弃物对环境的污染,还可以实现废弃油毡的回收利用,具有一定的社会效益。废弃石油沥青纸胎油毡的主
随着更多高新技术引入铁路行业,铁路行业的效率和准确率得到了提升,同时也在一定程度上提高了铁路行业的运输效益。在如今的货物运输市场中货物运到时间现在已经越来越成为企业和顾客在选择货物运输方式所关注的重点,为了应对运输市场竞争,特别是在白货等高价值货品运输量不断上升的今天,在既有的货物运到时间的预测模式下,由于货物运输的报文数据量巨大,路网线路和交通节点繁多以及不同特征的车辆没有区分,导致现有的铁路货
目的观察蒙古黄芪饮治疗癌因性疲乏患者的临床疗效,以及对患者生存质量、免疫功能的影响,以探索蒙古黄芪饮治疗癌因性疲乏的可能机制。方法收集来自内蒙古中医医院肿瘤科病房符合病例入组标准的30例癌因性疲乏患者,采用自身前后对照研究进行临床观察。在患者所需常规对症治疗外,给予蒙古黄芪饮口服日2次,早晚各1次,每次100ml(含生药30g),以15天为1个疗程,共治疗1个疗程。采用piper疲乏量表及气虚证症
阿尔茨海默症(Alzheimer’s disease,AD)自其发现就引起了社会的广泛关注。胞内β-淀粉样蛋白(Aβ)沉积是其重要病理特征之一,不同形式的Aβ在疾病的不同时期表现出不同的细胞毒
目的探究三七总皂苷胶囊治疗糖尿病周围神经病变的临床疗效及治疗机制,为糖尿病周围神经病变的治疗提供更多有价值的理论及临床效果参考依据。方法选取2017年10月-2018年9月糖尿病周围神经病变患者100例,按照不同的用药方案分为治疗组和对照组各50例。对照组给予甲钴胺口服,治疗组给予甲钴胺+三七总皂苷胶囊联合治疗,治疗时间为一个月。比较两组患者治疗前后的氧化应激指标、炎症反应指标、胆红素、铁离子、神
2018年上海嘉定鱼场工厂化养殖的美国鲥鱼出现持续死亡现象,不明病因,多次使用消毒药和抗生素等治疗,无明显疗效,经现场解剖发现该批患病美国鲥鱼内脏肝、脾和肾等器官组织表面分布大量白色结节,依据这些临床等症状,未见文献报道,暂定为美国鲥鱼内脏结节病。本实验以患病的美国鲥鱼8尾为研究对象,采用HE染色、masson染色、抗酸染色和亚显微结构观察等研究方法,详细分析该病鱼样品组织和细胞病变及疑似病原菌定