超连续谱光源的宽光谱、高亮度以及良好的空间相干性使得它在光谱学、光纤通信、计量学以及生物医学成像等领域有着重要的应用价值。光纤放大器中输出超连续谱是目前获得高功率超连续谱的主要方式之一,大功率光纤器件与大模场光纤的发展使得光纤放大器输出的超连续谱功率可达数百瓦量级。目前光纤放大器直接输出高功率超连续谱方案中一般采用的是大模场光纤,支持多个模式传输,但相关研究主要关注放大器输出的超连续谱功率和光谱特性,未对放大器中的模式进行探讨。高阶模由于具有不同于基模的色散特性和模场分布,在超连续谱的产生过程中有着不同的非线性效应。论文对高阶模非线性效应和高阶模超连续谱的产生开展了一系列研究,主要工作及研究成果如下:1、利用应力长周期光栅进行模式转换,对比研究了LP₀₁模和LP₁₁模在纤芯/内包层直径分别为15/130μm和25/250μm的两种无源光纤中的非线性效应。分析了不同模式在不同无源光纤中的损耗特性、有效模场面积、零色散点以及截止波长对输出超连续的影响。实验研究表明,LP₁₁模在15/130的无源光纤中传输损耗较大,不适合做高功率的高阶模超连续谱;而LP₁₁模在25/250传输损耗较小,利用200m的25/250无源光纤得到了输出功率为5.27W,光谱覆盖范围为850-1700nm的LP₁₁模超连续谱。2、基于全光纤主振荡器功率放大结构实现了百瓦级的高功率LP₁₁模超连续谱。通过调整种子激光器的脉冲重频与脉宽,改变输出LP₁₁模超连续谱的峰值功率,实验研究了LP₁₁模截止波长和脉冲峰值功率对LP₁₁模超连续谱光谱与光斑形态的影响,在高峰值功率条件下可以获得空心光束。根据对实验研究结果的分析,选取合适的脉冲参数,将输出超连续谱光谱范围控制在LP₁₁模截止波长之内并尽可能展宽,获得了平均功率为103.6W、光谱覆盖范围900-1850nm的LP₁₁模超连续谱。