自动驾驶是智能交通与人工智能技术融合的交叉领域,旨在实现无人操控的智能化车辆行驶,往往需要结合多种人工智能技术。最早应用在自动驾驶系统中的技术为基于二维图像的目标检测技术,然而粗粒度的推理任务在应用中无法准确预测物体的真实形状,并且相机图像的局限性也增加了预测的不确定性。因此,探究鲁棒的三维点云数据形式结合细粒度的实例分割推理任务对自动驾驶技术的研究具有重要意义。本文的研究内容便是自动驾驶场景下基于点云的实例分割方法。实例分割是对目标进行实例级语义分割的精细化推理,需要在像素级语义分割的基础上根据位置信息进一步区分物体所属的不同实例,能够在场景中准确描绘出不同实例物体的边缘轮廓。现有的主流点云实例分割方法通过将点云场景投影在二维图像上应用深度学习的方法实现。虽然此类方法已经取得了一些进展,但其中仍存在一些问题。首先,室外场景点云稀疏且背景噪声复杂且庞大,目标显著性极低,直接进行细粒度推理十分困难,正视图投影还会造成轴向物体之间的混叠遮挡现象。此外,在室外点云数据中存在大量困难样本,导致点云实例分割平均准确度仍处于较低水平。本文针对以上问题进行研究,具体地:（1）本文首先提出一种基于视柱投影的点云实例分割算法模型,并提出一种两阶段点云实例分割的算法框架,通过结合点云目标检测与语义分割实现精细化的点云实例分割。为了增强点云目标物体的显著性,本文首先采用目标检测算法对场景进行初步的理解,通过保留感兴趣区域的点云视柱滤除大部背景噪声,便于进行精细化的实例分割。将提取的视柱进行编码与球面投影,对视柱点云进行格式化,由于视柱内最多只包含一个物体,因此基于视柱的投影不会造成物体的混叠。接着通过轻量级的二维卷积神经网络实现高效的精细化实例分割。本文提出的基于视柱投影的两阶段模型通过结合物体的位置信息与语义信息实现高质量的实例分割,在公开数据集上的实验表明所提算法的性能可以超出当前国际最优的方法。（2）本文进一步针对点云困难样本的实例分割进行研究,提出基于三维点的实例分割模型,有效的提升了点云困难样本的识别与分割。为增强困难样本的特征表达能力,本文提出采用直接对原始点云提取三维特征的网络结构进行实例分割,通过逐点级分辨率的网络直接提取物体的语义结构特征,可以避免投影导致的物体拓扑结构损失。具体地,首先通过交叉验证感兴趣视柱提取模块滤除噪声提升目标物的显著性,同时引入同分布的负样本增强分割网络的泛化性。然后,通过带有多分类焦点损失函数的点云分割模块对视柱内点进行精细化的识别与分割,并聚焦于挖掘困难样本的特征。实验结果证实了所提方法的有效性,可有效增强点云困难样本在实例分割中的识别能力。本文提出的两种点云实例分割模型在实验对比中均超过目前国际最优算法,根据其不同的特性两种算法有各自的适用情境。基于视柱投影的实例分割模型在较简单的点云场景中可以实现高效率的实例分割,而基于三维点的实例分割模型通过精细化的特征提取以及较高的计算代价实现了更精确的点云实例分割。