随着社会经济快速发展,人们也开始重视身体健康。其中宫颈癌是威胁女性健康的一种发病率极高的疾病,目前医疗领域中,医学图像分析是绝大多数疾病检查的必备手段,但诊断结果大多还是依赖医生凭借其丰富的临床经验加以判断,由于原始图像复杂难懂,因此这一过程需要医生高度集中注意力,长时间进行繁琐的操作。以TCT图片为例,从时间上讲,一张影片的检测分析至少需要五到十分钟,而医生每日需要诊断几十位病人,在这样的工作压力下,首先损耗的是医生的身体,也会带来误诊,进而给患者带来不同程度的损害,甚至错过最佳诊断时间,危害患者生命。通过对宫颈TCT图像的研究分析来辅助宫颈癌诊断实现诊断具有十分重大的意义。宫颈细胞图像中目标检测准确率和分割的精度直接影响诊断结果,为了完成对宫颈TCT图像进行目标检测和分割,并且在原有基础上提高分类的准确率和分割的准确度,本文做了如下几方面的工作:(1)本文在医生和检验人员的指导下制作了自己的COCO数据集——TCTCOCO,该数据集基于长沙市第二人民医院的新柏氏液基细胞学检测(TCT,Thinprep cytologic test)制片技术的宫颈TCT细胞图片,并且利用人工方法对数据集完成扩充,避免数据集太小造成过拟合。(2)本文对Faster R-CNN和Mask R-CNN进行研究和实验,其中Faster R-CNN只能进行目标检测,而Mask R-CNN不仅能实现目标检测同时还可以对目标框区域内的目标进行分割生成掩膜(即完成实例分割)。(3)本文在Mask R-CNN的基础上,对该网络模型中的特征金字塔网络(FPN)进行改进提出了DFPN,即在FPN中加入空洞卷积减少特征提取时的图像信息损失来提高分割的准确度。(4)图像中经常有细胞重叠情况,Mask R-CNN中本来是使用非极大值抑制(NMS)进行筛选边界框,这会发生边界框误删。通过查阅资料了解到软化非极大值抑制算法(Soft NMS)可以解决这类问题,因此在原有Mask R-CNN基础上使用Soft NMS代替NMS来减少边界框误删,提高目标检测的准确率。本文通过仿真实验验证,在Mask R-CNN中使用DFPN代替FPN,分割准确度有所提高;在使用Soft NMS代替NMS后目标检测结果的准确率和回归率都有所提高,证明了本文算法的可行性。