自从石墨烯的发现以来,二维（two-dimensional,2D）范德瓦尔斯（van der Waals,vd W）层状材料一直是各个研究领域的热点。2D vd W层状材料中蕴含着丰富的物理性质,并具有优异的应用前景,所以需要不断地去探索及合成新型的2D vd W层状材料,进而推动相关物性和器件研究。在本论文中我们选择理论预测地新型2D vd W层状材料Al Sb以及被验证为2D拓扑绝缘体的Bi（110）为研究对象。利用分子束外延（molecular beam epitaxy,MBE）的生长方法,我们成功地合成了2D Al Sb和不同层厚的Bi（110）薄膜,并且通过扫描隧道显微镜/谱（scanning tunneling microscopy/spectroscopy,STM/STS）表征了其结构和电子结构。本论文主要研究成果如下:（1）最近,有理论预言某些类Ga As型传统半导体材料的2D vd W材料在能量上比其截断的三维体相更稳定。为此,我们通过分子束外延法在石墨烯覆盖的Si C（0001）衬底上生长超薄的传统半导体Al Sb和In Sb薄膜。STM对其结构形貌和电子结构进行了表征。结果表明,在超薄极限下,Al Sb薄膜的形貌与理论预测的双层蜂窝（double layer honeycomb,DLHC）结构一致。Al Sb薄膜的绝缘带隙为0.93 e V,与DLHC结构1.06 e V的理论带隙接近,而与其三维体相的1.6 e V的带隙形成鲜明对比。然而,对于另一种理论提出的2D极限下的vd W晶体In Sb,我们发现无论岛的高度如何,都能稳定地生长为体相的闪锌矿结构,并且在In Sb岛的表面具有（111）方向的2×2重构特征。我们的研究证明了2D vd W晶体虽然与理论预测的不完全一致,但在超薄极限下确实可以从传统的三维半导体演化而来,为深入研究其物理特性及其在纳米电子中的应用铺平了道路。（2）近年来,2D Bi（110）、Bi（111）以及全平面的Bi烯的新奇拓扑性质受到了研究者们的广泛关注。在这里,我们利用分子束外延的方法在低温条件下合成了Bi（110）薄膜,并且通过STS观测到了3个单层（monolayer,ML）的Bi（110）的拓扑边界态。通过对样品退火,Bi（110）薄膜趋向于形成长条状的纳米带,并且其电子结构由半导体逐渐转变为金属性。进一步在Bi（110）薄膜上低温沉积了Pb发现,Pb原子倾向于以金属团簇的形式附着在Bi（110）薄膜的边界,少量分布于Bi（110）薄膜表面。研究结果表明Pb金属团簇对Bi（110）薄膜的体态电子结构几乎没有影响。