计算机视觉的应用在人类的生活无处不在,目标检测和实例分割作为计算机视觉的重要研究方向,在智慧城市、无人驾驶等领域的作用越来越重要。传统目标检测算法中,根据交并比(IOU)的大小判断正负样本,但一般设置比较低的IOU阈值会得到过多的噪声样本,使训练的检测器识别能力偏低,进而影响了整体的准确率。设置高的IOU阂值又会过滤掉过多中等质量的样本,只保留少量的高质量样本,由于样本量大量减少,进而产生了过拟合的现象。同时推荐区域IOU阈值和训练器使用的IOU阈值相差较大会造成质量不匹配的问题,也会导致最终训练出来的网络检测精度的损失。针对以上几点问题,本文改进了级联卷积神经网络,并添加掩膜分支来实现实例分割,本文研究内容包括以下几个部分:(1)由于较低的IOU会引入噪声,降低检测器的精度;较高的IOU会保留少数高质量样本,造成过拟合。本文针对这一问题,提出了一种基于级联网络的平行级联检测网络,它由一系列检测器串并联而成,每个检测器设置递增的IOU阈值,从而在每个阶段都会得到一个更高质量的样本分布来训练下一级检测器,并逐步重采样减少过拟合。(2)本文针对推荐区域和检测器的IOU阈值相差过大会引起质量不匹配的问题,提出了检测器层层设置递增阈值的结构,通过递增的阈值结构可以逐级提升样本的质量,保证推荐区域和检测器的IOU阈值相近,解决质量不匹配的问题,提升了检测精度。(3)本文在平行级联网络的基础上添加掩膜结构,每一级的检测器都添加掩膜单元,来实现实例分割,该方法通过每一级提升的样本质量来训练下一级检测器,进而提升网络的准确率。