具有层状结构的过渡金属硫族化合物是一类丰富多样的材料体系,为凝聚态物理的诸多前沿问题,如超导电性、非平庸拓扑态、新型准粒子、能带工程、自旋电子学等提供了很好的研究平台。分子束外延（MBE）技术是一种具有原子尺度精确调控能力的材料生长手段,多用于二维材料和异质结的制备。在本论文工作中,我们使用MBE技术制备了四种过渡金属硫族化合物薄膜,并利用低温扫描隧道显微镜（STM）、输运测量、角分辨光电子能谱（ARPES）并结合理论计算等方法对薄膜的形貌结构、能带结构和超导电性等性质进行了研究。得到的主要结果如下:（1）利用STM系统地研究了SrTiO₃（001）衬底上单层FeSe薄膜中的多种杂质缺陷（包括原生缺陷、化学掺杂、表面吸附、衬底修饰等）对单层FeSe薄膜的电子态和超导能隙产生的影响。实验观察到的杂质束缚态对不同的理论模型提出了限制条件。这一工作有助于对单层FeSe的超导配对对称性获得更深刻地理解。（2）结合STM和输运测量研究了SrTiO₃（001）衬底上PdTe₂薄膜的电子性质随膜厚的演化。我们发现,随厚度从单层增加到多层,薄膜发生了从窄禁带半导体到金属的转变。多层薄膜呈现出多带超导电性,趋近二维极限时薄膜的超导转变温度明显高于预期值,而且通过Mg的插入可以使转变温度进一步提高。第一性原理计算揭示了由层间轨道耦合所导致的晶格常数和能带结构随厚度的变化,与实验结果一致。计算还预言了非平庸拓扑态的存在。这些结果表明PdTe₂薄膜可能是实现二维拓扑超导的一个候选体系。（3）结合STM、ARPES和输运测量对SrTiO₃（001）衬底上1–5层反氧化铅型CoSe薄膜进行了研究。我们发现,不同于块体材料,CoSe薄膜未出现铁磁性的迹象。其能带结构与SrTiO₃上单层FeSe类似,但费米能较高,费米面组成较复杂,能带宽度较大。这些结果表明,通过空穴掺杂有可能在CoSe薄膜中实现超导电性。（4）利用STM对比研究了SrTiO₃（001）和Bi₂Sr₂CaCu₂O_8+δ两种衬底上生长的黄铁矿型CuS₂（111）薄膜。在费米能处观察到一个能隙,该能隙随温度升高或膜厚增加而减小,这可能是电子-电子相互作用所导致的库仑能隙。不同衬底对薄膜的电子态没有明显影响,但硫的含量对生长行为和电子性质均有显著影响。