亚波长尺寸光子晶体光纤(Subwavelength Core PCF, SCPCF)具有传统光子晶体光纤(photonic crystal fiber, PCF)所不具备的各种新颖的光学特性,其在高非线性光纤、光纤通信、全光器件领域具有广泛的应用前景。此外,高折射率亚碲酸盐玻璃具有比石英玻璃更高的非线性折射率系数、更宽的波长传输范围,因此将SCPCF与高折射率亚碲酸盐玻璃结合起来,可以更加灵活的设计光纤结构,获得更优异的光学特性。本论文针对基于高折射率亚碲酸盐玻璃为纤芯的SCPCF的结构设计和其光学特性进行了深入的理论研究。主要研究和创新成果如下：(1)设计了一种亚碲酸盐纤芯的亚波长尺寸光子晶体光纤,并且使用有限元法分析了光纤的基模模场分布、群速度色散特性及克尔非线性系数。考虑到SCPCF中电场的矢量特性以及基模的频率相关性,对传统的非线性薛定谔方程进行了改进,得到一种新的描述脉冲在光纤中传输的方程形式,并且发现一种新的几何非线性的存在。为了准确的描述短脉冲在SCPCF中的传输特性,光纤损耗参数以及三阶色散系数也被考虑在内。(2)通过调整包层结构和减小纤芯尺寸,可以使几何非线性的最大值位于光纤的反常色散区,这样在一定的波段范围内,几何非线性的作用增大到可以与拉曼效应比拟。基于修订后的新的非线性薛定谔方程,发现几何非线性对拉曼孤子自频移(Raman soliton self-frequency shift, RSSFS)有着一定的抑制作用,而且在入射脉冲峰值功率、脉冲时域带宽、传输距离不同时,几何非线性对RSSFS抑制程度不同。(3)基于亚碲酸盐椭圆纤芯,并且引入V型分布包层空气孔,设计了一种高双折射高非线性光子晶体光纤。通过调节椭圆纤芯的尺寸(椭圆纤芯长轴为0.5μm,短轴为0.25μm时),在波长1550nm处,该光纤可获得7.66×10-2的高双折射和3400W-1·km-1的超高非线性系数。此外,通过改变亚碲酸盐椭圆纤芯的尺寸,光纤可以具有两个零色散波长,并且其第二零色散波长可以在很大波长范围内移动。该结构光纤在光通信和光传感领域有着广泛的应用前景。(4)设计了一种基于亚碲酸盐纤芯的双包层SCPCF结构,并且分析了光纤的色散特性。相比于外包层中的大空气孔,内包层中的微小空气孔对波导色散的调节更加明显,可以更有效的对光纤色散进行调节。此外,微小空气孔可以灵活的调节光纤色散斜率和零色散波长的位置。通过改变内包层空气孔的间距和大小,可以得到很宽的低色散斜率的波长区间,并且同时实现零色散波长在很大范围内的移动。此外,该光纤的非线性系数比普通二氧化硅光纤高出了至少一个数量级。该结构的提出为色散调节及高非线性系数的获得提供了新的方法,在四波混频和超连续谱产生中有着广泛的应用。