金融数学是一门新兴交叉学科，在国际金融界和应用数学界受到高度重视.它涉及现代金融学的资产定价理论、投资组合理论以及现代数学中的随机分析、随机控制、优化理论、数理统计等学科.未定权益的定价和套期保值是金融数学的核心问题之一，它的理论研究不仅丰富和发展了现代金融数学，而且对数学的许多分支的发展起到了推动作用. 本文系统研究了最小熵鞅测度、效用无差别定价和效用无差别套期保值策略.获得了最小熵鞅测度存在且唯一的充要条件；讨论了效用无差别定价的性质及其与最小熵鞅测度的关系；构造了效用无差别定价和效用无差别套期保值策略.主要内容如下： 建立了无套利有界半鞅模型；给出了最小熵鞅测度存在且唯一的充要条件；讨论了效用无差别定价的性质及其与最小熵鞅测度的关系；介绍了效用无差别定价及效用无差别套期保值策略. 对多维扩散模型进行了深入研究；在多维扩散模型下用鞅方法和动态规划方法证明了极小鞅测度与最小熵鞅测度是一致的；用线性偏微分方程刻画了效用无差别定价及效用无差别套期保值策略；证明了效用无差别定价与风险厌恶指数无关；验证了鞅方法和动态规划方法本质上是一致的. 建立了随机波动率模型；在随机波动率模型下用鞅方法和动态规划方法给出了最小熵鞅测度，用非线性偏微分方程刻画了效用无差别定价及效用无差别套期保值策略. 在风险资产价格服从指数Lévy过程模型的情况下，通过Esscher变换得到了指数Lévy过程模型的最小熵鞅测度.