多模态时间序列异常检测研究

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:Tiffany100
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
时间序列异常检测旨在从时间序列数据中识别异常模式。长期以来,时间序列异常检测一直是一个重要的研究领域。随着时序中模态数量的增长,时序的复杂程度以及异常检测的难度都会逐步增大。本文针对三种不同复杂程度的数据类型,即单个模态、两个模态、多个模态(大于等于三个模态),依次提出了三种不同的时序异常检测框架,用于有效利用不同类型数据中的信息。针对单个模态数据集上时序的概念漂移问题,本文提出基于概念漂移检测的在线Transformer模型。在两个模态的数据集上,本文探索在基于语音和文本的多模态对抗攻击异常样本上的异常检测方法。在多个模态的数据集上,本文设计了一个多模态空间-时间图注意网络,它采用一个多模态图注意网络和一个时间卷积网络来捕获多模态时间序列中的空间-时间相关性。首先,为了解决单个模态时序数据中的概念漂移问题,我们提出结合了概念漂移检测模块(CDAM)和在线学习的Transformer异常检测模型。CDAM模块负责动态地调整模型的学习率。CDAM和在线学习共同促进了在线稀疏Transformer将知识从旧概念数据的模型转移到新概念数据的模型中。此外,由于Transformer中自注意力的时间复杂度较高,我们设计了根方稀疏自注意力来代替原来的自注意力,大大降低了其计算复杂度。其次,为了更好地挖掘两个模态数据中的信息,我们提出了一个多模态深度融合Transformer,称为MDFT。具体来说,音频和文本特征分别由音频和文本编码器提取。我们设计多模态注意机制,以捕获音频和语言特征之间的互补信息,并获得联合的多模态表示。该表示接着被传播到密集层以产生检测结果。最后,为了明确地捕获多个模态时序数据中的单变量时序之间的空间-时间关系。我们提出了一个多模态的空间-时间图注意网络(MST-GAT)。MST-GAT首先采用了一个多模态图注意网络(M-GAT)和一个时间卷积网络来捕获多模态时间序列中的空间-时间相关性。具体来说,M-GAT使用一个多头注意模块和两个关系注意模块(即模态内和模态间注意)来明确地建模模态相关性。此外,MST-GAT使用重构和预测模块来联合优化模型参数。
其他文献
区块链是一种公开透明且抗篡改的分散式的公共数字账本技术,如今在虚拟货币、时间戳证明、证据保持等众多领域广泛使用。工作量证明共识算法作为最稳定、最被广泛应用的区块链共识算法,使以比特币为例的众多区块链应用的平均出块时间,在很长一段时间以来都成功地维持在设计值左右。但是由于近年来虚拟货币为首的区块链的应用日渐火爆,市场价值波动明显,越来越多的矿工加入了区块链的挖矿网络。矿工们的每一次加入或是退出操作都
学位
“五育”融合历经了古代课程思想的沉淀、近代课程体系的完善以及现代课程制度的成型而萌生,符合国家发展的需要、体现了全面发展的教育理念和科学的课程育人观,代表了新时代中国基础教育改革的前沿方向。以课程设置为视角系统梳理“五育”历史发展脉络,以期对新时代基础教育课程改革提供借鉴与参考。
期刊
党的十八届三中全会正式拉开新一轮国企改革的序幕,十九大做出深化混合所有制改革是国企改革重要突破口的战略部署,“十四五”再次突出强调将混合所有制改革向纵深推进,不断做强做优做大国有资本。并购是企业优化资源配置和实现资本运作的重要方式,已然成为国企民企战略性重组和专业化整合、推动混合所有制改革的重要途径。基于化解过剩产能、助力民营企业度过难关、促进集成创新、整合优势资源等等动因,催化了我国近年大规模并
学位
深度学习的发展为许多任务提供了出色的解决方案,随着神经网络应用的落地,人们对其安全性和鲁棒性也越发在意,但研究表明通过往原始数据中添加扰动生成的对抗样本足以误导模型的输出。对抗样本研究可以加强对神经网络的认识,也能推动网络的防御和改进。因此探索攻击力更强的对抗样本,开拓新的对抗攻击方式是很有研究价值的。本文工作主要围绕着深度学习的对抗样本进行,贡献如下:1.基于生成对抗网络,提出了特征扰动的对抗样
学位
自2017年以来我国可转债市场在政策鼓励下蓬勃发展,尤其在近两年里市场扩张迅速,可转债现有数量及发行规模均突破新高,可转债作为备受关注的金融衍生产品之一,其定价是否合理将对整个行业的发展及完善产生影响。我国可转债市场在2021年下半年涨势明显,其中,有色金属行业作为典型的顺周期板块,与可转债市场大盘走势契合,该行业可转债虽在存量和数量上都处于中间水平,但在此波上涨趋势中发挥了重要的推动作用,并以1
学位
在习近平总书记提出“精准扶贫”重要思想后,我国于2021年实现了脱贫攻坚战的全面胜利。当前,习总书记指出应做好脱贫攻坚成果的巩固工作,及时发现易返贫致贫人口并进行个性化帮扶。因此,利用家庭层面易准确获得的信息对农村贫困家庭进行精准识别并分析其致贫因素尤为重要。考虑到近年来我国贫困整体呈现出多因素协同致贫的特点,基于关联规则的分类算法(Classification Based on Associat
学位
天地一体化信息网络是由天地之间多种网络融合而成的异构网络,将作为下一代通信的关键基础设施,为用户提供大带宽、低延迟以及高速率的数据传输服务。然而,天地一体化信息网络区别于传统通信网络,具备资源受限、拓扑动态、间歇联通、用户规模庞大以及信道高度暴露等特点,为网络中实体的身份鉴别带来了诸多挑战。单个用户接入认证时效率低下、大规模用户批量认证时并发冲突,以及链路动态切换时延迟较高等问题使得传统网络中的认
学位
在初中阶段的英语学习中,英语写作是很重要的一个部分。但是一直以来,写作是初中学生的学习难点,学生对写作的学习兴趣不高,成绩也不理想。写作要求学生具有整合和运用知识的能力,学生如果没有好的学习方法是很难掌握写作的。思维导图是英国著名心理学家托尼·布赞在20世纪60年代提出的。思维导图作为一种将思维可视化的工具,可以把抽象的、零散的知识有效的整合起来。因此,作者在本次研究中把思维导图应用于初中英语写作
学位
关系提取任务作为信息提取的重要子任务,其目标是从文本中识别出三元组,将无结构化数据转化为结构化数据。关系提取同样是构建知识图谱、问答系统等自然语言处理任务的基础工作,具有重要的研究价值。根据不同的识别文本,关系提取任务可以分为句子级别的关系提取任务和文档级别的关系提取任务。在句子级别的关系提取任务中,任务目标是识别自然语言文本中的实体,并将实体进行关系分类。在文档级别的关系提取任务中,由于所需识别
学位
中国自1978年改革开放以来经历了快速的经济增长,极端贫困人口的数量大幅降低。随着脱贫攻坚取得了全面的胜利,以收入为单一指标的绝对贫困被消除后,中国开始面临着多维贫困的挑战。同时,对于我国居民来说,医疗需求的增加和疾病的经济风险不能仅仅依靠基本医疗保险来缓解。为了准确地衡量我国多维贫困状况,探寻补充医疗保险对我国多维贫困和多维返贫的影响效果,本文将由此深入展开,为完善我国补充医疗保险制度提供相关建
学位