液晶(LC)在显示器、光学开关和其他光电器件中具有广泛的应用,在这些应用中,人们一般通过改变液晶材料中液晶分子的取向来实现不同的功能,所以其取向控制对于基础研究和实际应用都具有重要意义。现阶段界面处理和拓扑受限已经成为控制各类液晶相有序度和取向的两种最有效的工具。拓扑受限体系会导致形成空间结构可控的并且高度复杂的缺陷,这一现象能被用于开发一些有趣的高度有序的分级结构材料。将传统软物质和拓扑受限相结合已经成为在微米尺度上合成材料的一种非常有前景的方法。在我们的模拟研究中,由拓扑边界产生的“活性”赋予了液晶向列相中缺陷的运动性,使得复杂的空间缺陷结构具有动态的属性。通过控制边界运动的频率和振幅,我们提出了一种用于设计具有可控缺陷软物质材料的新方法。由边界运动提供的能量输入驱动向列相椭球形成远离平衡态的结构,同时我们在其中也观察到了一些新奇的动力学现象。在第一章中,我们简明介绍了液晶的发展和分类。我们描述了三种不同类型的液晶相:向列相、近晶相和胆甾相。接着,连续弹性介质理论,朗道理论和Maier–Saupe平均场理论被引入来研究液晶体系中的相变。最后我们介绍了液晶、胶体粒子在平衡态以及与活性物质在非平衡态最近的研究进展。在第二章中,我们介绍了布朗动力学模拟方法和椭球粒子之间相互作用的Gay-Berne势能。首先简单介绍了基本的布朗运动理论和朗之万方程以及在势场中的布朗运动,并研究了二维体系单个椭球粒子在水溶液中的布朗运动。最后我们描述了Gay-Berne势能,这种势能包含了椭球粒子分子之间的相互作用特征。在第三章中,我们用布朗动力学方法研究了在二维本体和受限固定圆形边界中的Gay-Berne椭球粒子的相行为。在本体下,作为密度的函数体系形成的结构存在四种相:各向同性的无序相、向列相、近晶相以及玻璃态。我们的研究主要集中在高面积分数下的相行为。我们分析了椭球粒子形成的各种相的结构有序度和关联函数以及自扩散性质。当向列相受限在圆形边界内,靠近边界的粒子沿着边界的形状排列。我们计算了在不同面积分数下的密度和取向沿着径向的分布。结果表明椭球粒子在受限下的相行为与其在本体的相行为有着极大的不同。空间受限诱导了腔内空间的不均一性,这为我们提供了一种独特方法以可调控的方式来研究一些孤立相互作用缺陷的动力学。在第四章中,为了探索受限运动边界诱导的非平衡态行为,我们设计了一个简单的包含椭球粒子受限在圆形边界中的二维体系,该圆形边界随时间做周期性伸缩运动。体系的布朗动力学模拟得到了不同于平衡态下的新奇的稳定结构,这些结构仅仅在合适的边界运动条件下形成。由运动边界提供输入能量,粒子随边界运动的集体运动在形成稳定的有序结构和演化过程中的动力学是至关重要的。形成的稳定结构的对称性的改变是由于边界圆形形状和运动边界驱动的受限粒子向内聚集形成的层状结构竞争而形成的。我们还发现,模拟中出现的快和慢的动态演化过程是取决于结构调整是否发生。我们的结果不仅能提供一种在动态边界运动下得到自组装结构的方法,也能为研究生命现象中的自组装现象提供参考。在第五章中,我们进一步研究了在不同因素影响下运动边界中的自组装相行为。我们考虑了边界的粗糙程度,大尺寸下溶剂的粘滞阻力以及受限振荡边界的几何形状等因素的影响。在一定的频率和振幅下,增加边界光滑度会导致最终的稳定结构趋于不变,平均能量也对应于结构的变化在固定值附近波动。另一方面,当溶剂粘滞阻力变小时,在合适的边界运动中体系都出现了核壳结构。固定频率和振幅,随着面积分数的增加,我们可以得到向列相、近晶六角相和近晶B相三种结构。体系的几何形状也影响缺陷结构的形成。在受限平板边界振荡下,在固定低频下增加振幅或者在固定低振幅下增加频率,结构都从平行于边界的近晶相转变为垂直于边界的近晶相,再转变为边界无序内部粒子沿着边界平行排列。受限在二维的振荡方形腔内,椭球粒子自组装也形成各种不同的结构。我们的结果不仅能显示运动边界对受限椭球自组装的作用,也提供了一种得到椭球粒子有趣结构的方式,这是在平衡态下不能得到的。最后,我们总结了本论文,并对今后非平衡体系下受限胶体的自组装研究进行了展望。