深度学习网络这一学科是自从2006年起，随着基于层叠的限制玻尔兹曼机（Restricted Boltzmann Machine, RBM）的深度信念网络的学习算法的提出，而逐渐开创起来的，它在人工智能领域中是一门新兴的学科，其研究的主要内容，就是多层神经网络的建模和算法学习的问题。这一领域目前的应用非常广泛，比如手机的触摸屏，手写输入法等等，具有广阔的发展前景。本文围绕模糊深度学习神经网络算法的研究展开，我们重点对模型的基础RBM来进行研究。首先，我们介绍了本课题的研究背景，神经网络、模糊神经网络和深度学习网络等几方面的发展现状。我们总结了目前进行深度学习网络的RBM算法，其中，重要的就是马尔可夫链蒙特卡罗（Markov chain Monte Carlo,MCMC）算法，然而，这些算法提出的目的均是以采样作为出发点的，因此，我们很有必要从深度学习网络的本身来提出更加高效的学习算法。其次，我们系统地介绍了RBM和深度信念网络的理论知识，其中，RBM部分我们介绍了RBM模型的构造和模型参数的理论分析；而深度信念网络部分我们介绍了网络的基本组成和两层RBM的处理方法的问题。然后，我们重点对比研究了深度学习网络中RBM的主要学习算法，包括对比散度（Contrastive Divergence, CD）算法和随机最大似然（StochasticMaximum Likelihood, SML）算法等；基于回火的MCMC算法，包括模拟回火（Simulated Tempering）算法，回火转移（Tempered Transition）算法，并行回火（Parallel Tempering, PT）算法等；模式跳转的MCMC方法等。另外，我们还研究了马尔可夫链和Gibbs采样算法；RBM的评估算法，包括重构误差算法和回火重要性抽样（Annealed Importance Sampling, AIS）算法等。最后，我们在基于模式跳转的MCMC算法的基础上，提出了“模式集”的概念，并提出了一种基于模式集的模式跳转MCMC算法。我们通过一系列的实验证明了基于模式集的算法比没有模式集的算法具有更高效的模式跳转概率，并且算法随着隐藏节点维度的增加可进行高效的模式跳转，算法在不同的相邻模式半径的跳转速度问题上，我们得到，即使模式集的半径减小，改进算法能存储更多的模式集信息。其次，我们通过改进算法与SML算法和PT算法的比较，得到了改进的算法的模式跳转更为高效。最后通过AIS算法对几种算法进行评估，我们得到基于模式集的模式跳转的MCMC算法具有最大的似然度。因此，改进算法具有更高效的学习效率，所以我们的算法设计的方向是比较正确的。