自20世纪50年代大规模分离纯稀土元素以来,镧系元素及其化合物在应用以及基础研究方面受到越来越广泛的关注。镧系元素具有电子轨道范围较小也较为局域的4f电子,所以它被轨道范围更大的5p和5s电子屏蔽。多达7个未配对电子的构型加上可能存在的强自旋轨道耦合,可以形成巨大的磁矩,从而产生了目前最强的商用永磁体——钕铁硼合金。人们对稀土元素化合物进行了大量的研究,这主要是因为它们的行为在大多数情况下与组成元素的性质有很大的不同。除了丰富的晶体结构、电子基态和复杂的磁相图外,还观察到许多新奇的物理现象,如非费米液体行为、量子临界行为、量子临界区域较强的自旋涨落以及室温下稳定存在的斯格明子磁泡等。另外,在不具有4f电子的过渡金属化合物中,也存在着非费米液体行为以及强的自旋涨落等。研究稀土化合物和过渡金属化合物中自旋涨落对物性的影响,也是十分有趣的。为了进一步理解具有4f电子的稀土化合物以及过渡金属化合物中的新奇物性,在本文中我们主要介绍了关于以下几种材料的磁性及电输运性质的研究,其中包括:在Eu基化合物EuCd2Sb2和EuCuSb中各向异性的磁性行为以及电输运行为,并发现由拓扑磁结构以及拓扑能带导致的巨大拓扑霍尔效应;在稀土化合物PrMn2Ge2中研究了面间磁各向异性以及多种磁性相的竞争——这也可能是导致其在室温下存在稳定斯格明子的主要原因;在过渡金属化合物α-Co5Ge3中研究了由自旋涨落及无序导致的非费米液体行为以及反常霍尔效应。基于以上内容,本论文主要包括以下四个工作:第一部分主要介绍了 EuCd2Sb2单晶的各向异性磁性和输运性质。EuCd2Sb2在不同磁场下的电阻率及磁性结果表明其内部存在较强的铁磁涨落。并且我们在反铁磁转变温度TN上下都观察到了巨大的拓扑霍尔效应,这可能是由非平庸的贝里曲率以及多种磁性相竞争引起的量子临界点导致的。比热测试结果也揭示了在TN以上短程磁有序的存在。大的Kadowaki-Woods 比值可能是由长程反铁磁序与短程铁磁涨落之间的磁临界点引起的。而且电子顺磁共振的数据也进一步表明了铁磁涨落的存在。为了改变EuCd2Sb2的磁基态及调控其费米能级的位置,我们掺杂了 Yb元素并研究了掺杂样品的电输运和磁性质。结果表明掺杂Yb以后,EuCd2Sb2的磁基态的确受到影响,但是对输运性质的影响还需要更深入的分析和研究。第二部分,我们研究了可能具有斯格明子的中心对称材料EuCuSb的磁各向异性以及各向异性的拓扑霍尔效应。磁化率数据表明低温下EuCuSb具有两个反铁磁转变点,并且存在着铁磁关联。各向异性的电输运数据表明,不同磁场方向下EuCuSb具有不同的磁结构,进一步说明样品存在各向异性。同时我们也在电输运结果中发现,EuCuSb存在反铁磁自旋涨落,并且可能存在量子临界点。最后,我们测试了面内的霍尔电阻率ρxy,发现其存在拓扑霍尔效应,这可能是由于非平庸的拓扑磁结构和拓扑能带导致的。特别的是,面间霍尔电阻率ρxz在变磁相变区间还具有回滞的拓扑霍尔效应,其机理尚不明确,需要进一步研究。第三部分主要介绍了在室温下存在稳定拓扑自旋结构的PrMn2Ge2单晶的临界行为以及其各向异性的磁性质。磁化强度和磁熵数据表明,磁场方向不同,PrMn2Ge2具有不同的磁相互作用。通过临界分析我们得知,PrMn2Ge2中存在多种磁相互作用相互竞争,介于长程和短程有序之间,不能用单一的磁性模型描述。这些相互作用与强的磁各向异性结合,可能是PrMn2Ge2在室温下形成斯格明子磁泡的主要原因。第四部分我们研究了巡游铁磁金属α-Co5Ge3的磁性质以及输运性质。在低温下（≤30 K）,我们观察到一个与铁磁态共存的自旋涨落相。反常的电阻率随温度的变化行为揭示了非费米液体行为的存在,这是由自旋涨落和无序引起的。并且随着外磁场的增加,α-Co5Ge3的自旋涨落被抑制,从而使费米液体行为恢复。当T≤30 K时,一个非常规的反常霍尔标度关系ρxyA ∝ ρxx6.9被观察到,我们猜测这可能是由自旋涨落或Co原子缺位引起的强烈无序导致的。