近年来,基于卷积神经网络(Convolutional Neural Networks,CNN)的深度学习(Deep Learning)相关技术和算法,以其在诸如图像分类,目标检测,自然语言处理等任务上优异的性能表现,获得了学术界和工业界越来越广泛的关注。随着新需求,新任务的不断涌现,其应用场景也随之越来越广泛。然而,为了处理越来越复杂的任务,满足人们对精度越来越高的要求,大多数现代深度神经网络的深度和宽度不断增加,随之而来的是其越来越高的内存占用量和计算复杂度。与此同时,在移动端设备上运行基于深度学习的相关算法的需求不断提高,而在这些设备上,无论是内存,电量还是计算能力,都受到极大限制,这给深度学习相关算法的移动端部署带来极大困难,也成为限制深度学习相关算法应用场景的主要瓶颈。为了解决这个问题,本文对二值神经网络的内存管理方式和计算流程进行了重新优化和设计,实现了一个高效的二值神经网络前向计算算法BitStream,与已有算法相比,BitStream在速度上和内存占用上取得了明显的提升;除此之外,本文设计并实现了一个基于移动平台的量化神经网络优化计算方法,与浮点神经网络相比,取得了数倍的性能提升;为了让这些算法真正落地,本文设计了一个基于移动端的,轻量级、高效的深度学习前向推理框架QEngine,在各个不同的网络和硬件平台下的性能评估表明,与其他流行框架相比,本文提出的算法可以有效的提高深度神经网络在移动端的运算性能。