基于图像融合的目标识别与抓取检测研究

来源 :中国矿业大学 | 被引量 : 0次 | 上传用户:yoursbin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能以及深度学习的不断发展,机器人的自主抓取在智慧工厂以及智能家居等领域都发挥着不可替代的作用。针对端到端的抓取检测模型对密集遮挡等多物体的检测存在重复检测、鲁棒性差的不足,本文提出基于RGB图像与Depth图像融合的目标识别与抓取检测分步骤处理的方法,该方法支持抓取检测模型在单物体场景下进行训练,并直接应用于多物体场景中,这增加了模型的泛化性并减少了人工标注数据的工作量。本文的主要内容如下:首先,针对基于RGB图像的目标检测器对密集遮挡的多物体场景易出现漏检与误检的问题,提出了将低维特征与高维特征进行多尺度特征融合的子阶段路径聚合模块(Sub-stage and Path Aggregation,SPA)与基于RGB-D特征级别融合的SPA-YOLO-Fusion目标检测模型。SPA-YOLO-Fusion在YOLOv3-tiny的基础上,利用两个不同的特征提取网络对RGB图像以及Depth图像分别进行特征提取,使用特征叠加的方式处理RGB特征以及Depth特征,并使用了SPA模块对叠加的两类图像特征进行融合。对Line MOD数据集进行补充标注并从实际场景采集图像制作YODO_Det数据集,实验结果表明SPA-YOLO-Fusion模型在两个数据集上的检测精度分别为91%和95%,且光照鲁棒性以及特征融合模块的泛化性也优于YOLOv3与YOLOv4的轻量级模型。其次,从损失函数、预处理以及后处理算法三方面对基于RGB-D像素级别融合的GR-Conv Net抓取检测模型进行了改进。本文提出的MS-L1(Mask Smooth L1)损失函数,对SPA-YOLO-Fusion模型所输出的目标区域图像赋予较大的权重,并提出白色背景填充的预处理算法以及对目标区域外的图像像素进行过滤的后处理算法。从实验室场景采集图像并制作YODO_Grasp数据集,该数据集的特点是训练集为单物体图像,而测试集为多物体图像。实验结果表明改进之后的GR-Conv Net与GG-CNN的精度分别85%和73%,性能分别提升了23%与17%。然后,在配备RealSense D435i深度相机与Jaco2机械臂的抓取平台上,对单物体场景以及六类物体密集摆放的多物体场景都进行了目标检测与抓取检测,并针对有效的抓取框再进行了20次抓取实验。实验结果表明在单物体场景下目标检测精度为97%,抓取检测精度为97%,抓取成功率为93%;在多物体场景下的抓取检测精度为75%,抓取成功率为90%,优于其他抓取检测模型。最后,将基于RGB-D图像融合的目标识别与抓取检测的功能进行软件集成,提高了抓取检测任务的可视化能力以及可操作性。该论文有图61幅,表7个,参考文献92篇。
其他文献
十四五开局之年,我国保险行业进入到高质量发展阶段,市场主体日益丰富,行业竞争日益加剧。如何在竞争中立于不败之地,在发展中稳中求进,是保险企业目前急需解决的重大问题。科学合理的全面预算管理是保险企业稳健发展、智慧经营的有力抓手,是降低企业成本的重要保障。本文主要对保险企业在全面预算管理中存在的问题进行分析,并提出解决思路。
<正>讲评是高中数学教学不可或缺的环节.高效的讲评有助于学生查漏补缺,找到问题之所在.但是,大多数教师和学生不重视讲评环节,导致教学的效率不高.下面,笔者结合多年的教学经验,谈一谈高中数学讲评的策略.一、指导读题的方法大量的研究数据表明,没有真正读懂题意是导致高中生做题出错的重要原因,所以,教师有必要在教学中指导学生掌握正确的读题方法,尤
期刊
目的:研究黄芩汤对溃疡性结肠炎(UC)模型小鼠的药效,并探究黄芩汤在UC中是否能调节肠道菌群,发挥屏障保护作用。方法:雄性Balb/c小鼠按体重随机分为正常组、模型组、黄芩汤高(20 g·kg-1)、中(10 g·kg-1)、低(5 g·kg-1)剂量组、菌群干扰组、菌群干扰模型组、菌群干扰给药组(HQT,20 g·kg-1)。灌胃抗生素(杆菌肽200 mg·kg-1、万古霉素200 mg·kg-
目的:探讨四逆法治疗肾阳虚衰型帕金森病(PD)患者的临床疗效,评估其安全性。方法:选取2021年1月至2022年2月在广西中医药大学第一附属医院脑病科和老年病科门诊及住院治疗的符合肾阳虚衰型PD患者84例,并随机分为治疗组和对照组,每组42例。对照组给予多巴丝肼片治疗,治疗组在对照组的基础上加用四逆法中药治疗,疗程共2周,分别于治疗前、治疗后7天和治疗后14天比较两组患者的39项帕金森病生存质量调
西藏中拉萨地块东段大规模侏罗纪-白垩纪花岗岩类的成因类型及构造背景尚未得到有效约束,该时期岩浆作用的时空分布、岩石成因以及深部动力学机制等问题亟需新的深入研究。本文对中拉萨地块东段南缘那茶淌地区的花岗岩类进行了系统的岩相学、元素地球化学、年代学和锆石Hf同位素研究。LA-MC-ICPMS锆石U-Pb定年结果显示,那茶淌地区黑云母二长花岗岩成岩年龄为147±1.4Ma,花岗闪长岩年龄为140.6±1
我国高速公路是全世界最繁忙的交通系统之一,拥堵预测是亟待解决的难题。2019年以来,我国高速公路电子不停车收费(ETC)系统开展了全国范围的大规模部署和联网,产生了海量的ETC数据,记录了绝大多数车辆在高速公路上的通行情况。因此,如何通过海量的ETC数据挖掘发现高速公路交通态势的变化,并进而预测未来的拥堵趋势具有重要的研究意义和实用价值。本文基于ETC数据挖掘分析高速公路交通流的动态演变规律,进而
<正>新课标下数学试卷讲评课是数学课堂教学的重要环节,上好试卷讲评课对巩固基础、规范解题格式、熟练解题技巧、拓展思路、提高学生解题的能力、培养学生的思维意识等有着重要意义。数学试卷讲评是课堂教学中重要的一个环节,怎样提高试卷讲评有效性是我们每位数学教师都深思的问题。一堂高效的试卷讲评课,将关系到学生知识体系的完善,学生解题能力的提高,是对平时课堂教学的补充和完善,对提高教学成绩起着
期刊
21世纪以来,全球人工智能行业的发展速度越来越快,因此自动化与智能化机器人的发展愈加迅速。随着计算机技术和深度学习算法的发展,视觉工业机器人相较于传统的工业码垛机器人更有优势,它能够准确定位未知目标物体,动态地调节自身关节转动,根据物体位姿控制机械手爪,实现复杂环境下准确识别与抓取未知物体。因此探究将机器人与人眼相结合的视觉抓取技术,对提高码垛机器人的自动化与智能化有很大的意义。本文主要讨论带视觉
芍药汤由黄连、黄芩、大黄、白芍、当归、木香、槟榔、肉桂,甘草构成。因其具有清热利湿、调气活血功效,后世医家皆推此方为治疗湿热泄痢之主方。现代临床应用中,除芍药汤原方,其加减方亦用于溃疡性结肠炎治疗,并可与其他方剂(痛泄要方、白头翁汤、参苓白术散等)、西药(美沙拉嗪、柳氮磺吡啶、英夫利昔单抗等)、中医针刺或艾灸等特色疗法联用。临床疗效结果显示芍药汤及其加减方能明显降低梅奥内镜(Mayo)评分、结肠黏
帕金森病是好发于中老年人的神经退行性疾病。目前治疗帕金森病的常用药物是左旋多巴,但是患者在服用几年之后会出现一系列的不良反应。姜黄素是一种提取自姜黄科、天南星科等植物中的疏水性多酚类成分,在帕金森病的研究和治疗中展现出潜在的疗效。研究表明,姜黄素可以通过保护多巴胺能神经元、抗炎、抗氧化、抗细胞凋亡、抗线粒体损伤、调节自噬等多种途径在帕金森病中发挥神经保护作用。总结了姜黄素在帕金森病治疗中涉及到的不