可见光超连续谱具有良好的空间相干性和高亮度,在生物光子学等方面有重要的应用。而光子晶体光纤由于具备灵活的色散可控性以及可实现较高的非线性系数,是目前实现超连续谱的理想介质。本论文以掺镱光纤激光器为泵浦源从扩展短波长边界、提高转换效率到特殊模式输出三个主要方面研究了高非线性光子晶体光纤中的可见光超连续谱的产生。本论文首先介绍了光纤中的超连续谱所涉及的一些非线性效应,然后详细描述光纤中非线性过程的广义非线性薛定谔方程,并比较了频域形式相对于时域的优势。结合计算光纤特性的频域有限差分法,可以准确地模拟各种光纤中的非线性过程。在扩展短波长边界方面,提出一种增强长波长倏失波的微结构纤芯光子晶体光纤。在固定零色散波长在1gm附近时,2500nm的孤子群速度匹配的波长达到403nm,这比普通光子晶体光纤扩展了60nm。同时其非线性系数也提高3倍左右,非常有利于可见光超连续谱的产生。此外,也讨论光纤特性对纤芯纳米孔的依赖性。通过模拟计算,验证了所设计光纤在可见光超连续谱产生方面的优势。在提高可见光超连续谱的转换效率方面,系统地研究了纯石英光子晶体光纤到掺锗光子晶体光纤中的切伦科夫辐射。结果表明,在双零色散点光子晶体光纤的深反常色散区泵浦可以有效地产生短波长的色散波。以掺镱光纤激光器发出的100fs脉冲为泵浦源,在平均功率达到1.27W时,实验得到了大约40%的泵浦光到信号光的转换效率,带宽达到32nm,中心波长为410nm。多芯光纤由于模式的特殊性,在非线性光学中占有一席之地。本论文研究了两种特殊的多芯光子晶体光纤：类似同轴双芯光子晶体光纤和紧密的三芯掺锗光子晶体光纤。前者通过在内层纤芯泵浦可以得到外层纤芯输出的可见光超连续谱。由于群速度匹配的确实和相隔很近的双零色散波长,输出光谱形状可以很好地控制。而在三芯掺锗光子晶体光纤通过异相位模式的远场叠加得到中空光束超连续谱。简单地通过调节入射脉冲的偏振态,可以在同相位超模和中空光束超连续谱直接随意转换。在平均功率为1.04W的100fs激光脉冲泵浦下,得到540～1540nm的中空光束超连续谱,这在原子冷却和光摄等方面很好的应用潜能。