对量子系统进行精确操控是实现量子信息处理的基本前提之一。近十年中,量子控制逐渐成为了量子科学领域中的一个研究热点,相应的理论和实验研究在获得高保真量子门、完成量子态传输和制备量子目标态等方面取得了诸多进展。近年来,机器学习技术在求解和优化复杂非线性问方面展示出了巨大的潜力和优势,并通过与量子力学相结合开发出了一些新的交叉研究方向。特别地,机器学习中的训练过程以及优化策略过程与量子控制理论中优化控制场的过程类似。这意味着通过机器学习来优化量子控制方案是值得期待的,为此本文从量子开放系统理论出发,研究了受环境影响的量子控制问题,并讨论了与机器学习相结合的量子控制方案。具体的工作如下:基于Δ型三能级原子系统和两个独立的非马尔可夫Bose库耦合模型,研究了非马尔可夫Bose库记忆效应对受激Raman绝热量子控制（STIRAP）的影响。在绝热框架下,使用量子扩散方程（QSD）的方法,解析推导出了绝热条件下的非马尔可夫主方程。通过比较非马尔可夫Bose库和马尔可夫Bose库弛豫下的STIRAP,我们发现前者可以很好地抑制系统的退相干。此外,在相同参数下两个独立的非马尔可夫Bose库的记忆效应比单个非马尔可夫Bose库更强,这使得前者对退相干的抑制效果更显著。在该理论方案中,若非马尔可夫Bose库的记忆效应较强,则可以适当降低外部驱动强度,从而使之适用于更多的实际的物理系统。研究了由高品质因子腔（“好腔”）和低品质因子腔（“坏腔”）组成的全局耦合量子网络中的干涉效应。通过有效地剔除坏腔,推导出了具有附加干涉项的有效主方程,提出可以利用这些干涉项来操控该系统中的量子现象,从而实现量子干涉控制。以操控热库之间热流为例,证明了基于该全局耦合量子网络中干涉效应的量子控制可以有效地控制热流的大小和方向,这为构建一些量子热器件提供了一定的理论支撑。基于监督机器学习算法提出了一种操控多能级量子系统中量子态制备和可观测量期望值的量子控制方案。该方案可以很好地抑制系统内部随机噪声带来的影响,并且可以获得既连续又平滑的控制场。此外,分别以操控二能级系统中的量子态制备和四能级系统中厄米算符期望值为例,数值验证了该控制方案的有效性。提出了一种采用监督机器学习检测二次耦合腔光力系统中声子阻塞效应的方案。该方案中探测到的输出腔场作为神经网络的输入,声学模式等时间二阶关联函数的对数值为神经网络的输出。结果表明训练好的神经网络以高精度找出了神经网输入和输出之间的非线性映射。通过举例测试,发现训练好的神经网络不仅可以有效地检测到强声子阻塞效应,还适用于系统存在随机噪声的情况。综上,本文以新的思路解决了开放系统中的一些量子控制问题,丰富了开放量子系统控制的研究方法,推广了机器学习在量子系统中的应用,进而促进了量子信息和控制的发展。