数学生态学是用数学方法来定量研究生态系统变化过程的一门学科.非线性分析和非线性偏微分方程理论（特别是反应扩散方程理论）的发展,以及计算机模拟仿真技术的介入,使得生态模型的定量／定性研究进入到一个新的阶段,也取得了越来越多有实际应用价值的成果.本文利用非线性理论和反应扩散方程理论来研究几类生态模型在不同边界（Dirichlet、Neumann、Robin）条件下的动力学行为.研究内容主要包括平衡态正解的存在性、惟一性、多重性、稳定性、稳态分歧和Hopf分歧的存在性以及含时间t正解的长时行为.涉及的方法主要包括比较原理、最大值原理、上下解方法,线性化理论、分歧理论、不动点理论、摄动理论以及基于MATLAB（?）软件的数值方法.第一章介绍Lotka-Volterra模型和活化-抑制模型的研究工作背景及其现状,然后概述本文的主要研究工作.第二章讨论基于比率和改进Leslie-Gower功能反应的食物链模型,该模型描述了三个营养水平层次间的相互作用.首先利用不动点指标理论,得到模型平衡态正解存在的充分条件,进而说明其惟一性.其次利用上下解方法和比较原理,证明了全局吸引子的存在性和系统灭绝性.另外,通过数值模拟,补充验证了模型平衡态正解的存在性及稳定性,总结了参数c,α1,β1对种群u,v,,w密度的影响.第三章讨论具有非线性生长率的捕食-食饵模型,其中捕食者种群具有非线性的生长率.将参数m作为主要参数,分析了m充分大时,模型正解的存在性、惟-性、多重性及稳定性.另外,通过数值模拟,补充验证了模型的存在性、不存在性及稳定性,并分析了参数β对种群u,v密度的影响.本章涉及理论分析工具包括不动点指标理论、上下解方法、分歧理论及正则（奇异）摄动理论.第四章讨论具有Ivlev功能反应函数的捕食-食饵模型在零解处小分支正解的存在性和线性稳定性.另外,通过数值模拟分析和补充了理论分析结果,总结了参数γ,d对种群u,v密度的影响.本章主要涉及理论分析工具包括Lyapunov-Schmidt约化方法、隐函数定理以及线性化方法.第五章讨论齐次和非齐次环境活化-抑制模型的动力学行为.首先分析了内部平衡态的渐近性,及其附近ODE系统极限环的存在性、稳定性及走向.其次证明了PDE系统的Turing不稳定性及稳态分歧、Hopf分歧的存在性.另外,通过数值模拟分析和补充了理论分析结果.