三维拓扑绝缘体是中新的量子物质形态。其体内是有能隙的绝缘体，表面具有单一的自旋极化的狄拉克锥表面态，这种无能隙的金属表丽态的存在是受时间反演对称性所保护的，不会被非磁性杂质带来的无序破坏。拓扑绝缘体的研究对探索和发现新的量予现象具有重要的意义，并在未来自旋电子学器件和拓扑量子计算方面具有潜在的应用。　　 本论文主要研究用分子束外延方法在钛酸锶衬底上生长的拓扑绝缘体单晶薄膜Bi2Se3和(Bi1-xSbx)2Te3的输运性质。薄膜材料的生长。结构表征及其电子输运性质的测量是器件研究的基础。论文主要包括两个方丽的工作。一方面是对不同厚度的Bi2Se3薄膜在倾斜磁场下的输运性质做了系统的研究，排除了塞曼效应影响低场磁输运的可能性，为使用单粒子Hikami-Larkin-Nagaoka(HLN)公式分析磁电导数据的正确性提供了坚实的基础；并且通过分析面内磁电导数据发现厚度效应是导致低场下磁电导效应的主要物理机理。另一方面是系统地研究了不同组分下的(Bi1-xSbx)2Te3薄膜的输运性质，找到了载流子浓度最低的最优化配比范围(X=0.4～0.6)，并且通过背栅的调控，载流子类型完全由n转变成p型，此薄膜体系为探测三维拓扑绝缘体表面态的本征输运性质提供了一个较理想的平台。　　 本论文共分为五章。　　 第一章是关于拓扑绝缘体这一新领域在实验方面的研究进展。主要介绍了用角分辨光电子能谱(ARPES)、扫描隧道显微镜/扫描隧道潜(STM/STS)和电子输运测量三种实验手段来探测拓扑绝缘体的表面态。　　 第二章介绍用分子束外延的方法在钛酸锶衬底上生长了表丽平整有序的Bi2Se3和(Bi1-xSbx)2Te3拓扑绝缘体单晶薄膜，并借助微加工手段将薄膜制备战适用于输运测量的标准的霍尔器件。最后介绍了低温输运测量系统以及测量方法。　　 第三章主要是关于不同厚度的Bi2Se3薄膜在倾斜磁场下的输运性质的系统研究。倾斜磁场下的磁电导不能由垂直场的贡献和平行场的贡献简单的相加得到，从而排除了塞曼效应对低场磁输运的影响。通过面内磁场下的输运研究发现厚度效应是导致低场下磁电导效应的主要物理机理。　　 第四章是关于不同组分下的(Bi1-xSbx)2Te3薄膜的输运性质的研究。研究发现在最优化配比范围内的样品具有很强的背栅调控效果，这一工作有利于以拓扑绝缘体材料为基础的电子器件的设计和研究。　　 第五章是对实验研究工作的一个总结。