全光信号波形采样技术是当前超高速光信号处理领域的一个重要应用与发展方向。它通过在光域里直接对超高速光学数据信号或超高重复频率光脉冲序列进行波形采样处理，降低了对后端光电转换和电子模-数转换过程的工作带宽要求，从而克服了传统电学采样示波器和光电波形采样系统所存在的“电子瓶颈”效应问题。因此，全光波形采样技术在未来的超高速光通信和超短光脉冲波形测量等方面将扮演十分重要的角色。在国外，超宽带光学信号波形采样系统或示波器在最近几年已经正式得到了商业应用。但是国内在这个领域的研究工作起步较晚，主要是偏重计算机仿真研究和针对各类全光采样门的非线性光学效应理论研究。无论是从整体系统设计还是从工程实现的角度考虑，实验研究对于实现真正可用的全光信号波形采样系统来讲是一种至关重要的手段。我们的实际研发经验也说明了超宽带光学取样示波器技术是一门实验性极强和开发难度大的应用技术；而全光信号波形采样系统是实现超宽带光学取样示波器的硬件平台基础。本论文主要是基于作者参与有关研制我国首台超宽带光学取样示波器实验样机系统的部分研究工作总结。在此基础上，还对被测光数据信号的误码率估算方法进行了计算机仿真研究，为下一步增强光学取样示波器后续样机系统的测试功能提供一定的参考作用。另外，也针对该实验样机系统所使用的全光纤型超快波形取样门进行了仿真研究，找出了四波混频效率受信号光波长和零色散波长之间波长差的影响关系。这将有助于进一步优化我们团队所研制出的超宽带光学取样示波器实验样机系统的工作性能。由于在研制国内首台超宽带光学取样示波器实验样机系统的过程中，国内还没有其它任何单位报道过关于这方面的实验研究工作。因此，我们团队通过独立研究和自主创新，掌握了有关超宽带光学取样示波器低成本、可工程化设计的方法。本论文的核心工作是在我们团队前期研发的基础上通过系统集成创新，解决了实现高可靠性超宽带全光信号波形采样系统的关键技术之一，即全光纤型超快波形取样门，并在国内首次完成了基于该方案的高速光信号波形取样与重现的实验研究工作。本论文报道的研究结果对超宽带全光信号波形采样系统或光学取样示波器的研发工作具有重要的参考价值和实际的指导作用。论文的主要工作及创新点：一、完成了高速信号源的仿真及实验工作，实现了一种重复频率连续可调，脉冲宽度窄，时分复用后可用于产生640Gbit/s高速光信号的高速信号源方案。该方案首先利用铌酸锂调制器产生重复频率为10GHz和40GHz的高速光信号，输出光信号的脉冲宽度为7.4ps。然后利用一种全光纤方案对原始脉冲进行了压缩。压缩方案采用高度非线性光纤和单模光纤相结合的方法，将原始光脉冲压缩从7.4ps压缩至985fs。从脉冲宽度判断，该种信号源可以用于未来640Gbit/s高速光通信。这种方案结构简单，便于与光纤系统连接，能产生高质量的脉冲。二、实现了泵浦功率低、稳定性好的取样源。采用基于半导体饱和吸收体（SESAM）锁模的σ腔型被动锁模光纤激光器作为取样源的方案，实现了重复频率为52.5MHz，抖动218fs，脉冲宽度818fs的锁模脉冲输出。该种腔型利用SESAM和NALM共同作用压缩脉冲实现锁模，由于腔内没有任何偏振选择器件，因此容易实现矢量孤子。首次针对该种腔型中的矢量孤子的特性进行了实验研究。三、仿真研究了高度非线性光纤作为采样门时的四波混频效应。分析了四波混频效率随高度非线性光纤零色散点的变化趋势。并利用该仿真结论作为实验的理论指导，实现了基于高度非线性光纤中的四波混频效应的全光信号波形采样。四、搭建了用于全光信号波形采样的实验系统，在国内首次实现了基于高度非线性光纤的10GHz、40GHz和80GHz的全光信号波形采样。该采样系统时间分辨率为1.43ps（近期已经改进到0.87ps），采样得到的波形包络清晰，波形完好，测量得到的脉冲宽度与实际脉宽基本符合。该系统对信号速率透明，不仅可以实现对光脉冲波形的测量，还能实现眼图测量，测量得到的眼图张开度良好。五、针对基于异步光采样技术的Q值算法和误码率计算进行了计算机仿真研究。该方案具有速率透明的特点，它不需要使用高速误码仪等昂贵的硬件设备便能估算高速光数据信号的Q值并分析其误码率。因此，该方案与高速光通信系统兼容性好，具有重要的工程应用价值