频域光学相干层析视网膜图像SDOCT(Spectral Domain Optical CoherenceTomography)在现代医学中起到了重要的作用。视网膜层的精确分割是对视网膜医学图像分析的基础，本文在三维图搜索算法理论的基础上，针对黄斑和视觉神经头区域的不同特性，将三维图搜索算法改进并应用到具体视网膜图像的层分割当中。本文主要工作和研究内容如下:　　(1)基于梯度弱化算法的黄斑区内界膜(Internal Limiting Membrane，ILM)的单层分割算法。传统三维图搜索方法不能快速准确单独分割ILM层，提出的梯度弱化算法能够仅保留ILM边界附近较强梯度区域，而弱化了其他部分的梯度。实验表明，改进后的算法不仅能准确高效分割ILM层，还避免了原算法可能出现的误分割现象;　　(2)应用多尺度的三维图搜索黄斑区多层边界分割算法。本算法用来分割ONL-IS(Onner Nuclear Layer-Inner photoreceptor Segment),OS-RPE(Outer photoreceptor Segment-Retinal pigment epithelium)和BM(Bruchs Membrane)这三层结构。传统三维图搜索算法同时分割三层时间代价较大，利用轴向多尺度来降低分割的复杂度，针对不同层采用了不同的权重设计，并改进了分割策略，引入了组合层的概念，在分割过程中不同尺度采用不同的分割策略，实验表明能够做到三层结构的快速高效分割;　　(3)基于三维图搜索算法的ONH(Optic Nerve Head，视觉神经头)区域层分割及应用。结合ONH图像特性，利用多尺度三维图搜索进行分层，并引入薄板样条函数作为上采样还原策略分割ONL-IS，OS-RPE和BM层。利用层数据生成投影图像，通过基于背景估计的血管过滤算法对投影图像进行血管去除，并利用三维图搜索算法对视盘边界进行分割。分割视盘改进了传统三维图搜索算法不能分割封闭曲面的问题，改进后的算法可分割封闭曲线或曲面。实验表明算法能够较好地分割ONH的视频区域。