三维地层建模算法作为3D GIS和数字矿山的关键组成部分，对煤矿生产、安全、管理、决策有着至关重要的促进作用，已成为研究热点。基于面元模型的算法不能很好地表达地层体的三维实体性。基于体元模型的建模算法中，由于单个体元只能表示一种地质体，也不允许有断层穿越，当对包含断层、透镜体、侵入体、尖灭、褶皱等特殊地质体的地层体建模时，要么会导致建模结果的错误（当没有考虑边界约束条件时），要么会大大降低算法的自动化建模水平（当考虑边界约束条件时，必须人工交互式地加入大量约束数据），抑制了算法在煤矿应用的深度和广度。另外，很多算法都对特殊地质体独立建模，没有考虑与地层母体模型的无缝融合。论文借鉴面元模型和体元模型的建模方法，把煤矿地层（煤层）三维实体建模问题作为研究对象，以高度自动化的建模过程为目标，以体元模型为核心，突出地层体的实体性本质，强调集成和无缝融合的建模理念，对复杂地层体三维实体建模问题进行了创新性研究。（1）针对单个广义三棱柱体元不能包含两种或两种以上地质体、不能被断层面穿越的问题，提出了能够突破这些问题的体元模型──“虚拟广义三棱柱体元模型”。在此基础上给出了一种能够恰当表达复杂地层体的三维层次结构模型──“虚拟广义三棱柱-多面体-四面体”模型，较好地解决了复杂地层体中各特殊地质体的建模和无缝融合问题。（2）快速合理地构建地层面三角网、断层面三角网是复杂地层体三维建模基础，通过引入三角网格模板、规则虚拟钻孔概念和提出基于多边形分区思想的含断层地层面的等高线高程插值算法和离散点高程插值算法，给出了构建连续地层面三角网、含断层（正断层、逆断层、多断层）地层面三角网和断层面三角网的完整解决方案。构建出的三角网格具有结构化的特点，为生成虚拟广义三棱柱体元提供了极大的便利。（3）采用分而治之的思想，基于规则块体网格和四叉树结构，提出了两种实用的建模区地层体空间分块方法，降低了大面积多断层区域三维建模的难度和复杂性，提高了建模结果的合理性、准确性。给出了各子块体三维层次结构模型集成时无缝融合的思路。（4）分别提出了表达单断层地层体、复杂多断层地层体、含透镜体/侵入体地层体、尖灭地层体和含褶皱地层体的三维层次结构模型，给出了各类模型的建模算法。算法最大限度地减少了用户手工干预工作量，以便有更高的自动化水平。（5）多面体的四面体变换过程是三维层次结构模型的最基本要求，因而多面体的四面体变换问题在论文算法研究中具有基础性地位。论文分别从多面体几何特性和三维任意域约束Delaunay四面体化两个角度入手，分析当前典型算法，提出了两种高效的多面体到四面体变换算法。算法已应用于实际煤矿复杂地层体的建模，取得了预期的效果。