为了适应工业生产自动化的形势,工业机器人广泛地应用于分拣作业,针对分拣作业中目标物体堆叠严重,传统检测和分割算法精度较低等研究问题,提出了一种基于卷积神经网络的杂乱场景下零件分割方法。深入研究了语义分割和实例分割算法,搭建和训练了图像分割的网络模型,对杂乱场景中零件进行分割,为后续零件抓取工作打下基础。同时,针对基于卷积神经网络的分割算法需要高质量数据集的问题,研究了三维仿真技术和物理引擎,提出基于Open Scene Graph（OSG）和Bullet的虚拟数据集构建方法。本文主要工作如下:（1）设计了杂乱场景零件虚拟数据集的构建方案。基于卷积神经网络的图像分割需要高质量数据集,考虑到现有公共数据集在机械零件领域的匮乏,同时为避免人工繁琐的标注,提出一种基于Open Scene Graph和Bullet的虚拟数据集构建方法,建立杂乱场景训练集合成系统生成虚拟图像用于训练。首先利用Solidworks建立零件模型,并通过3Dmax赋予各零件模型不同的材质信息,然后利用三维图形库Open Scene Graph和物理引擎Bullet建立虚拟杂乱场景,最后通过视口渲染的方式生成虚拟图像。（2）研究了基于深度学习的杂乱场景零件语义分割方法。首先,对目前主流的语义分割模型Deep Lab V3、Deep Lab V3+、PSPNet以及Refine Net进行了研究和分析;然后建立杂乱场景零件虚拟数据集对语义分割模型进行训练和测试,对比分析了测试结果;最后,针对语义分割模型上采样操作带来的特征信息丢失问题,利用全连接条件随机场（CRF）图像后处理模块去细化图像分割的结果。（3）研究了基于深度学习的杂乱场景零件实例分割算法。针对语义分割模型难以对堆叠同种类零件分割的问题,提出一种基于Mask RCNN和虚拟数据集的杂乱场景零件实例分割方法。首先,对模型进行了搭建,将实例分割模型Mask RCNN划分为主干网络、区域候选网络、网络输出三个模块;然后建立了三种同种类零件虚拟数据集,利用采用迁移学习中微调的方法对模型进行训练;其次,利用虚拟图像对模型划分模块的合理性进行了可视化分析;最后,利用Kinect相机采集的真实图像对模型进行测试,分析了不同构成的数据集对模型训练的影响。（4）研究了基于深度学习的杂乱场景全景分割算法。将语义分割模型和实例分割模型相结合,搭建全景分割网络。首先,利用杂乱场景训练集合成系统构建虚拟数据集,Kinect相机采集图像构建真实数据集,针对Kinect相机采集的深度图像带有空洞和噪音点的问题,利用快速行进算法FFM对深度图像进行修复;然后搭建全景分割网络模型,采用虚拟数据集用于预训练,少量真实数据集微调的训练策略;最后利用真实数据集进行测试。实验结果表明,本文搭建的模型可以对杂乱场景中目标物体和背景进行较好的分割。