卷积神经网络（Convolutional Neural Network,CNN）已经成为计算机视觉领域最成功的算法之一,并且在众多领域中得到广泛的应用。然而,随着CNN的网络层次的加深以及模型结构愈发复杂,CNN模型的计算量激增,导致大量资源和能源的消耗。另一方面,传统的通用处理器（Central Processing Unit,CPU）由于其串行的计算方式难以满足实时性需求,GPU（Graphics Processing Unit）因为其高功耗不适合应用于移动嵌入式平台。FPGA（Field Programmable Gates Array）具有灵活可编程、低功耗、开发周期短的特点,在性能功耗比方面对比CPU、GPU具有独特的优势。利用FPGA有限的硬件资源实现CNN模型的并行加速计算成为业界研究的热点问题,其核心在于通用加速模块架构的设计。首先,通过对CNN的整体架构以及不同模型计算方式进行分析,确定了卷积神经网络可并行计算潜在模块和过程,以及可行的优化措施。以此为基础,设计划分软硬件协同方案,设计并采用ARM+FPGA的整体系统框架。在硬件设计上,使用HLS（High-level synthesis）技术分别设计了输入输出单元、基于乘累加阵列的卷积运算单元、池化运算单元、激活函数单元和重排序单元等计算模块,并采用流水线的思想将各个计算模块整合起来。在优化措施上,使用压缩量化、流水线、循环优化、乒乓缓存和参数数据缓存等优化措施来减少访存,加速计算过程。通过Roofline性能评估模型优化硬件结构解决FPGA片上存储、计算资源有限的问题。最终实现了对于CNN网络的前向FPGA加速计算。其次,对本文提出的基于FPGA的并行加速设计方案进行了验证和分析,利用Xilinx Zynq-7000系列的PYNQ-Z2开发板搭建了卷积神经网络加速器综合验证平台,并分别对图像分类和目标检测领域中较为典型的轻量卷积神经网络Le Net-5和YOLOv2模型进行了功能验证以及性能对比评估。对于Le Net-5网络,采用MNIST、CIFAR-10数据集进行性能测试,以MNIST数据集为例,实验结果表明与i5-8300H CPU相比,FPGA的功耗是其3.6%,能效为其20.5倍;与GTX 1060 GPU相比,功耗是其2.1%,能效为其12.3倍。对于YOLOv2网络,实验达到了26.23GOP/s的计算性能,FPGA性能为i5-8300H的5倍,ARM Cortex A9的87倍;能效方面为i5-8300H的95倍,为ARM的145倍,为GTX 1060的6.8倍。