凝聚态物理的一个重要目标就是寻找新的物质态。拓扑绝缘体就是一种新绝缘相，其体态能带具有特殊的拓扑性质，导致表面存在受到拓扑保护的导电态。由于能够直接测量电子的能量，动量和自旋，光电子能谱技术在拓扑绝缘体的研究中起到了至关重要的作用。本论文论述了真空紫外激光自旋分辨角分辨光电子能谱仪的研制、拓扑绝缘体Bi2(Te，Se)3体系的单晶生长、角分辨光电子能谱仪对拓扑绝缘体Bi2(Te，Se)3体系中拓扑表面态与量子阱态的共存以及狄拉克费米子动力学性质的可调性的研究、以及自旋分辨角分辨光电子能谱仪对拓扑绝缘体Bi2Se3表面态的轨道-自旋织构的研究。论文包括以下几个部分:　　1.主要参与自旋分辨角分辨光电子能谱系统的设计、安装、调试、维护和改进工作。参与真空紫外激光角分辨光电子能谱系统、时间飞行角分辨光电子能谱系统和激光能量可调角分辨光电子能谱系统的维护和改进工作。　　2.利用自助熔剂法和移行浮区法生长出高质量的Bi2Te3-xSex(0≤x≤3)15种不同组分的单晶。并利用扫描电镜、X射线衍射仪、拉曼光谱仪、电感耦合等离子体发射光谱仪和电阻测量对拓扑绝缘体晶体的晶体形貌、晶格结构、晶格动力学、载流子输运等性质进行了表征。　　3.利用角分辨光电子能谱仪对Bi2(Te，Se)3体系样品在暴露空气或氮气之后的表面电子行为进行研究发现，虽然表面态化学势因为空气分子吸附发生了变化，但表面态依然存在，证明表面态受到了体态能带拓扑性质的保护。这个发现对于拓扑绝缘体的实际应用有重要的指导意义。同时我们在样品表面发现了与拓扑表面态共存的新的量子阱态，这些量子阱态起源于体态导带或者价带的量子化。量子阱态与拓扑表面态的共存能够解释在输运实验中观测到的多种振荡频率和电子空穴共存等复杂现象。通过对量子阱态的分析我们发现之前被普通接受的能带弯曲图像不能解释我们观测到的体态导带和价带的同时量子化。我们提出了一种新的物理图像来解释量子阱态的形成。在这个图像中，由于Bi2(Te，Se)3体系是良好的二维材料，层与层之间的接合是非常弱的范德瓦尔斯键，气体分子或离子容易进入外面几层之间的空隙，导致层间距变大，从而影响了其化学势，使得每一层对应的能带在能量上产生劈裂，从而形成了量子阱态。　　4.通过角分辨光电子能谱仪对Bi2Te3-xSex(0≤x≤3)体系样品的拓扑表面态精细结构的测量，我们首次在狄拉克费米子单粒子谱函数的自能实部和虚部中发现其同声子散射的证据，并且电子声子耦合的能量尺度和强度可以通过元素替换和电荷掺杂等手段进行调控，证明了以拓扑绝缘体为平台研究与电声子耦合相关的物理现象的可行性。同时我们发现狄拉克费米子的动力学性质主要由其同杂质的散射所决定，Se元素的含量越多，杂质浓度越高，狄拉克费米子同杂质的散射就越强。我们的实验结果表明在Bi2Te3中狄拉克费米子具有较高的迁移率和较长的准粒子平均自由程。因此以Bi2Te3为基础通过合适的电荷掺杂更容易观测到狄拉克费米子的输运信号。　　5.通过自旋分辨角分辨光电子能谱仪对Bi2Se3样品表面态的电子结构和自旋极化的同时测量发现，不同极化方向的线偏振光源可以激发不同轨道配置的电子态，由此探测到不同配置的自旋织构。具体来讲，线性色散的二维拓扑表面态形成狄拉克圆锥，通过矩阵元对称性分析发现，s-偏振的光源激发上狄拉克锥中面内切向轨道配置的电子和下狄拉克锥中面内径向轨道配置的电子。对应于s-偏振配置的自旋极化测量表明上下狄拉克锥都具有右旋的面内自旋织构，这与之前被普遍接受的上下狄拉克锥具有相反的自旋织构的图像是完全不同的。而p-偏振光同时激发上下狄拉克锥中pz轨道的电子，对应的自旋极化测量结果表面上狄拉克锥具有左旋的面内自旋织构，下狄拉克锥具有右旋的面内自旋织构。我们在这个体系中观测到的不同轨道织构与自旋织构的对应与理论上的预言是一致的，证明了这个体系中存在轨道织构与自旋织构的耦合。同时我们的结果表明不同极化配置的光源可以激发出不同自旋极化配置的光电子，证明了Bi2Se3体系中光电子自旋极化的可操控性以及这个体系做为极化电子源的潜力。