众所周知,自适应光学系统可以对望远镜接收的动态畸变波前进行实时探测校正,恢复其自身的光学衍射极限成像分辨率。由于天文、军事等领域的发展趋势,要求望远镜有能力对暗弱目标进行高清晰度成像。传统的哈特曼波前探测器将入射光分为数十甚至数百个子光束的探测原理导致其信噪比低,无论望远镜口径多大,哈特曼探测器的极限探测星等最高为5.5星等,无法探测暗弱目标。近年开始尝试应用的角锥波前探测器对暗弱目标的探测能力要强于哈特曼波前探测器。角锥探测器是将入射光束会聚在角锥棱镜顶点,使光束分为4个子光束形成4个探测器入瞳孔径的像,波前畸变使角锥锥尖光斑亮度分布发生变化或整体偏移,从而使4个光瞳像能量分布不均,光瞳像内部亮度分布也不均,根据4个光瞳像对应像素上的亮度归一化差异可以计算得到与波前局部斜率正相关的响应信号,进而解算畸变波前。然而角锥探测器动态范围较小,当波前畸变较大,尤其是倾斜量较大时,光斑在角锥锥尖上的偏移量过大,造成只出现一个光瞳像而其他三个光瞳像亮度过低,或光瞳像局部亮度过低,导致无法解算波前。由于角锥波前探测器的动态范围小,目前只能应用于闭环控制系统,尚未有报道使用角锥波前探测器的工程化开环自适应光学系统。而开环控制模式是自适应光学的发展趋势,其中的波前探测器直接接收望远镜的入射波前,要求波前探测器动态范围要大、探测精度更高。针对角锥探测器动态范围小的问题,考虑将光斑在角锥锥尖上的偏移量不同转变为光斑在四锥面上曝光时间不同来定量减小四个光瞳像的亮度差异,扩展动态范围。设计了快反镜调制棱镜锥尖上的光斑沿圆轨迹运动使4个光瞳像依次出现;由于入射波前倾斜导致圆轨迹中心偏离棱镜锥尖,光斑在各锥面上的运动时间不同,各光瞳像的曝光时间也不同,从而调制其亮度,使原本亮度过低的光瞳像亮度提高至可被探测,且光瞳像亮度差异与畸变引起的圆轨迹中心偏移成正比,原来的波前重构方法仍然适用。上述调制型角锥探测器的动态范围理论上可从原来的1λ扩大至12λ(λ=780nm),满足实际大气湍流的探测需求。但调制型角锥探测器中又产生了如下问题:光斑经过角锥棱边时,由于光瞳像光场叠加引入四条亮带,造成重构波前的高阶误差;亮带亮度值是背底噪声的10倍,因此无法用阈值法直接扣除。另外,光瞳像因调制发生的位置偏移不能超过3像素,否则光瞳像边缘发生弥散,无法精确定位,而任一光瞳像定位不准确都会导致对应像素的错位误差。同时,由于棱镜引入的轴向色差以及光瞳孔径边缘衍射形成的光晕,也会使光瞳像边缘形成几个到十几个像素的弥散,产生光瞳像定位误差;另外,大像差输入使原响应矩阵计算过程中的小像差近似条件不再适用,同时调制过程导致光瞳像亮度差异与波前畸变对应关系发生变化,需要重新计算调制型角锥探测器的响应矩阵。根据zemax软件仿真设计结果,以光瞳像在对角方向内外边缘亮度值差异为判据,对角锥探测器进行了精密装调,获得了边缘最锐利、内外边缘点共线的光瞳像,光瞳像对角方向内外边缘亮度值差异为7.84%,调制过程引起的光瞳像振动幅度小于1像素。针对光场叠加引入的亮带,分析了光瞳间距不同时亮带对光瞳像内部亮度分布的影响,设计并调节光瞳像以3.8倍半径的中心距等距分布,此时可以忽略光瞳像间亮带对探测信号的影响。使用双角锥棱镜替代单角锥棱镜,消除了单棱镜色散效应以及色散导致的光瞳像边缘模糊,同时降低了棱镜加工难度。分析了光瞳像边缘亮度分布特征,发现对光瞳像边缘亮度极大值点定位并不能对光瞳像边缘精确定位。提出对光瞳像边缘亮度梯度极大值进行定位,定位精度达到像素级别;然后利用相关算法二次标定光瞳像中心坐标,令高像素密度的液晶校正器产生包含10个精细同心圆的靶图,此时光瞳像内部亮度分布也为同心圆,计算光瞳像中心坐标在粗定位坐标附近振荡时,对应的光瞳像同心靶图的互相关度,对光瞳像中心二次定位,精度提高至亚像素级别。搭建实验室静态像差探测校正平台,在系统光瞳与光瞳像严格共轭的前提下,光瞳像精确提取使开环探测误差相较光瞳像粗定位系统减小60%,闭环校正收敛速度加快,闭环校正残差减小15%。分析发现调制型角锥探测器响应矩阵相当于在无调制探测信号上叠加了由倾斜调制引入的调制多项式,其物理意义相当于调制导致的畸变响应信号幅度衰减。大像差输入情况下,响应矩阵中包含的三角函数项会发生高频振荡,导致无法精确计算;通过坐标归一化,使衰减项中三角函数自变量阈值变小,抑制了衰减项振荡。对响应信号本身包含的三角函数项,由于其自变量显含Zernike多项式,使用小系数Zernike基底抑制其在大像差输入情况下的振荡,并在重构过程中施加增益以保证响应矩阵幅值。计算了输入像差为10λ时,调制型角锥探测器对35项Zernike模式的响应矩阵。使用角锥探测器和Zygo干涉仪搭建了探测器精度验证光路,在精密装调和光瞳像精确定位的基础上,对不同幅度的包含35项Zernike模式的随机静态像差进行探测。探测结果显示,使用开环响应矩阵与传统响应矩阵相比,探测器探测误差RMS值减小50%,对不同幅度像差的探测误差RMS值均小于λ/20,基本满足开环系统探测需求。本论文获得的结论证明,通过扩展角锥波前探测器动态范围的研究,实现了探测动态范围满足实际大气湍流探测需求的角锥波前探测器。同时,该探测器具备在自适应光学系统中对大像差输入的高精度探测能力,探测误差RMS值小于λ/20。该研究将角锥波前探测器的应用范围从闭环系统扩展至开环系统,对提高自适应光学系统极限探测星等,实现对暗弱目标的高精度成像起到积极的推进作用。