随着科技的发展,越来越多的计算机程序利用了GPU的高度并行性与浮点运算能力强的两个特性,其中包括传统的图像渲染、视频编解码、也包含了新兴的领域比如数据挖掘与机器学习。个人电脑与商用服务器已经无法满足日益增长的计算要求,越来越多的个人与企业选择将程序部署在云上,而且GPU加速也成为了不少云厂商的一大卖点。许多厂商都在自己的数据中心里,给服务器配备了GPU设备,并提供了相应的GPU云服务,给其成百上千的云租户提供高性能的GPU加速。但是由于商业成本与能耗限制,在数据中心给每个节点都提供GPU设备可行性较低。为了解决这样的问题,GPU虚拟化技术应运而生。与成熟的CPU虚拟化技术不同,GPU虚拟化一直是虚拟化技术中的研究难点。由于GPU设备的特殊性,传统的IO设备虚拟化的方式无法使用在GPU设备上。目前,大多数云厂商都通过设备直通（Pass-Through）的方式,将GPU设备提供给租户。这样以单块GPU为粒度的GPU虚拟化方案,一方面会导致GPU设备利用率不高,可扩展性较低。另一方面由于直接将设备暴露给客户机,虚拟机监视器无法对GPU设备进行设备监视。所以,如何有效地提高GPU设备利用率,保持对GPU设备的性能管理是一个非常困难的挑战。针对GPU设备的编程模型的特性与现有的GPU虚拟化技术的解决方案,本文提出了g Pooling,一种基于API重定向技术的可扩展的远程共享的GPU资源池。通过利用GPU编程的接口特性,g Pooling打破了不同厂商的设备壁垒,实现了一套设备独立的,对应用程序透明的GPU远程共享资源池。我们工作的主要创新点在于以下三点:·设计了一套基于API重定向技术,硬件独立、应用程序透明的远程共享GPU资源池的方案g Pooling。可以将现有的GPU集群资源聚合利用,可为不同设备提供渲染加速。集群内的单台GPU设备可以虚拟为多台v GPU设备,为多个客户机提供不同的加速能力。具有灵活性大、隔离性强、可扩展性高的特点。·针对g Pooling框架数据传输中数据量大的特点,分析网络传输过程中的数据使用开销。g Pooling设计并实现了一套包括指令流压缩与画面渲染编码的传输框架,有效降低了网络带宽,提高了g Pooling的可扩展性。·针对GPU集群资源使用的负载均衡问题,提出了一套多层反馈式的调度方法。对于集群内的不同层级掌握资源情况不同的问题,多层反馈调度算法利用集群层面与设备层面的信息交互反馈,合理地进行任务分发。通过将不同类型的GPU程序分发到特定的服务器上,有效利用了GPU应用程序的特点,合理地利用了集群内设备的不同资源,提高了设备的利用率,并保持了GPU高并行性。通过实验,验证了g Pooling可以给多达40台客户机提供GPU加速功能。与AWS公司的Elastic GPU方案相比,由于g Pooling采用了应用程序粒度的隔离方案,在多路运行时有效避免了应用程序之间资源竞争,达到了更高的拓展性。此外,实验表明g Pooling的指令流压缩与画面渲染编码能有效地降低了带宽资源的使用。实验证明多层反馈的调度算法,避免了同类程序对相同资源的竞争,达到了资源负载均衡的目的。