癌细胞是一种变异的细胞,是产生癌症的病源。癌细胞分割是量化癌症程度的一个重要且有效的手段,对理解疾病发生的机制、提升药物的研制效率、提高疾病诊断与治疗效果等都极其重要。基于深度学习(Deep Learning,DL)技术对细胞显微图像分割受到生物医学工程领域的强烈关注,已成为研究的重点和热点之一。针对癌细胞目标细小、高度密集、黏连遮挡、形态大小不一以及显微图像信噪比低等分割难点,本文基于CNN技术对显微镜图像癌细胞的分割,主要完成了以下研究工作:(1)针对癌细胞目标较小、形态大小不一等难题,本文提出了一种面向癌细胞显微图像的多尺度卷积模块(Multiple Convolutional Block,MC-Block),实现多种不同尺度卷积核的融合,并将提出的MC-Block应用于U-Net、Res Unet等分割网络中进行测试,实验结果表明MC-Block的引入对网络性能的提升较为明显。(2)针对癌细胞的高度密集问题,本文提出了一种密度损失函数分支,将细胞密度信息作为监督信号,将密度估计算法融入MC-Unet分割网络中,有效地提高遮挡与高密度情况下癌细胞分割的准确性。(3)针对细胞的黏连问题,本文提出了边界注意力分割网络,通过把边界轮廓作为监督信号融入MC-Unet分割网络,有效地强化细胞边界特征,并在上述损失函数分支的基础上,构建多任务损失函数能提高了细胞分割分割性能。为验证上述方法,本文选取六个具有不同特点的病理细胞图像数据集进行实验验证。结果显示,本文提出的方法能有效地解决因癌细胞目标细小、高度密集、黏连遮挡、形态大小不一以及显微图像信噪比低等带来的分割挑战。