自然界的大部分表面是按照一定概率密度分布的随机粗糙表面，对分层结构粗糙面电磁散射的研究，在微波遥感、雷达探测、地下目标识别等众多领域有重要的学术价值和应用前景。本文以月球环境为研究背景，利用月球雷达探测仪上的星载雷达作为激励源，模拟了星载雷达对月表分层结构进行探测时的电磁散射场。星载雷达探测仪发射的高频段电磁波可以有效的探测地下数百米到数千米的深度，为获得次表层结构特征提供有效手段。本文的主要内容包括：(1)利用随机高斯粗糙表面来构造月海的基础表面，依照已有的陨石坑分布统计规律和形态特征模拟构造了非均匀起伏的月陆地形；进而利用规则和不规则三角网格对地形进行数值剖分，用尽可能少的网格数量来表征月球表面的随机起伏问题。(2)利用基尔霍夫近似、射线追踪和Stratton-Chu积分公式，给出了分层结构雷达探测仪接收到散射场强度的计算方法。在小尺寸面元的规则网格算法应用过程中，计算结果精确，但网格数目较大，计算时间与网格数目N间约为O (N3)关系，使得计算量非常大。在不规则网格算法应用过程中，能加速计算过程，进而结合网格细分法对其进行优化，使其结果逼近规则网格模拟结果。(3)最后，有效地分析了表面和次表面粗糙度对雷达单脉冲模拟结果的影响，以及雷达探测仪对分层结构模型探测时的回波成像结果。