纳米颗粒掺杂玻璃材料具有优异的三阶非线性光学性能，因而在光开关、光波导、光限幅等非线性器件上的应用前景非常广阔，近几十年来，已成为非线性光学领域的研究热点。本论文以溶胶-凝胶法制备的Pb、Sb纳米颗粒掺杂钠硼硅玻璃为研究对象，结合多种手段对玻璃中形成的纳米晶进行微结构的表征，并利用飞秒Z-scan技术对样品的三阶非线性光学性能进行表征。主要研究结果如下：（1）利用热重-差示扫描量热法，傅里叶-红外光谱、固体核磁共振技术得到了钠硼硅干凝胶的组成结构随烧结温度的变化规律，即钠硼硅玻璃的形成机理。正硅酸乙酯于常温下通过水解、脱水、脱醇等进行聚合，形成-O-Si-O-网络，硼酸脱水形成-O-B-O-键。随着温度升高，B将融入硅氧网络中，形成-O-Si-B-键，Na2O提供桥氧使[BO₃]三角体向[BO₄]四面体结构转变，400℃⁵00℃时，形成一种疏松多孔凝胶结构，550℃左右时，凝胶转变成为玻璃态，至600℃时，形成了大量的[BO₄]和[SiO₄]四面体，玻璃高度致密化。（2）通过溶胶-凝胶法制得了Pb、Sb纳米颗粒掺杂钠硼硅玻璃，着重研究了玻璃中纳米晶的微结构以及三阶非线性光学性能。通过X射线衍射仪、X射线光电子能谱仪和透射电子显微镜对玻璃中Pb、Sb纳米晶的微结构进行了表征。结果表明，Pb、Sb纳米晶以球状小颗粒形式均匀镶嵌在钠硼硅玻璃中，大小为十到几十个纳米。Z-scan技术测试了样品在波长为800nm，脉冲宽度为200fs，重复频率为76MHz激光器激发下的三阶非线性光学性能，计算出其三阶非线性光学极化率χ（3）均为10-11esu数量级，并对他们的非线性产生机理进行了分析，主要为纳米晶引起的局域场效应和测试引起的热效应。