浮游植物是海洋生物圈中的初级生产者,浮游动物是初级消费者,二者共同构成一个浮游生态微系统,奠定了海洋食物网的基石。当浮游植物过多时,海洋发生“藻华”,严重影响海洋生物多样性,破坏海洋物质和能量流动,降低海洋生态系统稳定性,同时干扰人类正常的生活和生产。因此,研究浮游生态系统的动力学行为,特别是浮游生物的空间分布及变化,对了解浮游生物的演化过程、探索相关生态现象的形成机制具有重要意义。本文主要研究了浮游生物的空间自组织行为。通过反应-扩散模型刻画了不同环境下的浮游系统,利用稳定性分析、分岔分析、弱非线性分析等方法,研究得到浮游系统的稳定性、Turing分岔点、Turing-Hopf（TH）分岔点、自组织斑图、行斑图等动力学性质。具体研究内容及结果如下:首先,研究了浮游动物群体捕食和弱非线性扩散对浮游系统自组织行为的影响。假设浮游动物群体合作,共同捕食,以提高捕食效率,弱非线性扩散平衡了种内合作与种内竞争。利用稳定性分析,得到浮游系统反应方程稳定的条件和反应-扩散方程的Turing分岔点,然后以浮游动物扩散速率为变量,对系统进行弱非线性分析,得到自组织斑图模式及生成条件。发现随着浮游动物扩散系数增大,浮游生物聚集现象出现并逐渐增强,形成高密度斑块。数值模拟揭示了浮游植物的斑图结构及生成过程,表明了分析的有效性。其次,研究了浮游动物趋向性运动对浮游系统自组织行为的影响。假定捕食函数为比例型功能反应函数,浮游动物除了自然扩散,还兼具趋向性运动（非线性交叉扩散）。同样由稳定性分析获得反应方程稳定的条件和反应-扩散方程的Turing分岔点,发现浮游动物趋向性运动较强时,Turing分岔点消失。利用弱非线性分析探究系统在Turing分岔点邻域的动力学行为,得到系统自组织斑图切换的条件,发现随着浮游动物趋向性运动增强,浮游生物聚集现象逐渐变弱,趋于空间稳定。这一研究同时说明弱非线性分析可以应用于部分反应-非线性扩散模型,且非线性扩散项无需线性化。再次,研究了在浮游动物非局部捕食条件下,浮游系统生成自组织斑图的情况。假设浮游动物非局部捕食,提出了浮游系统的非局部反应-扩散模型。通过稳定性分析获得浮游系统的Hopf分岔点、Turing分岔点、TH分岔点,区分了强/弱TH失稳。假定反应方程稳定,利用弱非线性分析探究了浮游系统在Turing分岔点附近的自组织行为。仿真实验得到了猎杀函数的方差对系统Turing分岔点、斑图类型的影响。发现随着浮游动物捕食更加分散（方差变大）、扩散增强,浮游生物聚集性增强,形成高密度斑块,且斑块逐渐连通。这一研究同时表明弱非线性分析可以应用于非局部反应-非线性扩散模型（微分-积分方程）。最后,研究了简单海流（单向平流）对浮游系统自组织行为的影响。浮游生物因物理性质的差异随海流漂流的速度不同。当两种浮游生物平流速度相同时,浮游系统相对静止,整体平移。当两种浮游生物平流速度不同时,假如反应-扩散方程稳定,平移速度差会引起平流-反应-扩散方程波失稳,失稳临界点为波分岔点。当反应-扩散方程Turing失稳时,浮游系统必然波失稳,浮游植物平流速度固定为零,仿真实验发现,当浮游动物平流速度较小时,自组织斑图保持静止,当二者平流速度差较大时,自组织斑图开始平移,说明必然存在一个行斑图分岔点分割这两种动力学情况。综上所述,本文探究了几类生物因素和环境因素对浮游生物群落自组织行为的影响,研究了不同条件下浮游系统的时空动力学行为,丰富了浮游生态系统自组织现象的研究。同时,本文将弱非线性分析的应用范围进行了一定的拓展,将其应用于反应-非线性扩散模型和非局部反应-扩散模型的分析。