阻挫相互作用是凝聚态系统中的一个常见而又重要的特征。阻挫是凝聚态物理中一个广泛存在的现象，近年来越来越多地受到关注，它来源于每组竞争的相互作用倾向于支持其本身特有的空间相关性。所谓自旋阻挫，是指在一个有序排列的晶格中，位于格点上的磁性离子由于相邻晶格的自旋相互作用的竞争而无法使每一组相互作用都达到能量最低的组态。由于带有自旋阻挫的系统具有许多独特的性质，因而使其有可能应用到目前世界上很多非常热门的领域中。在三维烧绿石结构的稀土钛基氧化物材料R2Ti2O7中，磁性相互作用导致的几何阻挫使得系统在低温下形成一个高度简并的无序基态。由于阻挫的存在从根本上改变了系统的对称性和相变性质，因此这类几何磁性阻挫材料，是展示自旋涨落量子机理的理想候选者。这类材料显示出丰富和奇异的磁性基态，比如自旋冰、自旋液体、自旋玻璃等。所以，对此类系统的深入研究，可以丰富人们对凝聚态物质，特别是对关联电子行为的认识。在本论文中，我们通过对烧绿石型钛基氧化物进行A位和B位掺杂研究，对这类材料的磁性机理及自旋动力学行为进行了一些探索。取得了以下主要研究结果:　　1.从声子振动模式和磁性方面研究了非磁性离子Y3+对自旋冰材料Dy2Ti2O7的稀释效应。随着温度的降低，母体和掺杂的样品的红外光谱和拉曼光谱都表现出反常的声子软化现象。除了233 cm-1的红外振动模式之外，Y的掺杂可以使其他声子的软化程度降低，说明在这种自旋冰材料中存在很强的声子-声子非谐振相互作用。磁性结果表明非磁性离子的稀释导致自旋之间的偶极相互作用减弱，基态简并度增加，体系中的无序程度增加。在低掺杂材料中，自旋冰态依然保持，表明自旋冰态对于稀释效应是比较稳定的;而在高掺杂材料中，自旋冰态不再出现，这是由于自旋冰中集体自旋翻转的团簇消失，自旋冰态被破坏。　　2.利用直流和交流磁化率研究了A位混合自旋阻挫磁体Dy2-xYbxTi2O7的磁序及自旋动力学性质。随着Yb掺杂组分的增加，材料中铁磁耦合作用减弱，对应着长程偶极相互作用的减弱。除此之外，交流磁化率中出现了一个新的与Yb3+相关的峰T*，此峰来源于Yb3+热激发的自旋涨落。与此同时，与Dy3+相关联的弛豫Ts转变成通过热激发和量子隧穿共同作用的弛豫过程。低温下Dy2-xYbxTi2O7的自旋动力学行为与Dy-Yb相互作用和变化的晶体场有关。晶体场-声子耦合也可能对此行为有贡献。　　3.用磁性离子Fe3+对Dy2Ti2O7的B位进行掺杂，研究了烧绿石磁体Dy2Ti2-xFexO7的阻挫磁性和动力学性质。当x增加到0.15时，由于Fe配位数的减小，Fe3+的自旋构型从低自旋态转变成高自旋态。随着Fe掺杂量的增加，体系中的反铁磁相互作用越来越显著。在所有掺杂的样品中，Dy3+依然保持Ising类型的单离子基态，所以大部分Dy3+自旋依然冻结成自旋冰态，表现出自旋冰的稳定性。然而，也有一些Dy3+自旋在测试的最低温度时依然具有自旋涨落。此外，自旋的动力学冻结被压制到更低的温度，这是由Dy-Fe自旋相互作用和变化的晶体场所引起的。　　4.研究了烧绿石型铱酸盐Y2Ir2O7的磁序、自旋动力学及电输运性质。发现Y2Ir2O7是一种特殊的阻挫材料，它表现为铁磁组分和反铁磁序共存，其中反铁磁序是由Ir-O-Ir超交换作用所贡献的，而铁磁组分是由反铁磁态磁矩的倾斜所引起的。电子顺磁共振实验证实反铁磁序是造成铁磁组分的原因。电阻率曲线表明这种材料是一种半导体，可变程跃迁主导了材料的导电机制。电磁性质揭示出基态电子自旋排布成四进/四出结构的反铁磁序，而不是线性铁磁序。