基于行为特征剖析的CUDA程序合成方法研究

摘要

随着GPU体系结构的发展和GPU编程模型的成熟,越来越多的应用程序采用了高性能GPU架构来开发。NVIDIA公司提出的CUDA编程模型,已经在业界取得了巨大成功,引起了学者们的广泛研究。同时,微体系结构的设计人员使用详细的模拟器代替相应的硬件芯片,来验证芯片在程序性能和能耗方面的设计。然而,尽管CUDA程序在详细的模拟器与它所模拟的真实硬件芯片上运行的性能相近,但是在模拟器环境下,使用测试程序来评价芯片的设计,需要漫长的执行时间。
　　基于行为特征剖析的CUDA程序合成方法为解决模拟器环境下测试程序执行时间漫长的问题提供了有效的手段。在体系结构的性能研究中,为了测试某个芯片的性能或者能耗,体系结构研究人员使用了具有诸多行为特征的测试程序,例如指令混合比例、线程数量、控制流中的跳转概率等,而对于程序的功能不在考虑之列。在CUDA程序合成系统中,使用了从指令级别到线程级别的许多行为特征作为CUDA程序源代码生成器的输入,得到一个合成后的替代程序的内核。尽管合成后的替代程序与原始的程序在使用功能上和动态指令数上是不同的,它却与原始的程序有着非常接近的性能。这是因为,CUDA程序合成的过程中通过扩展GPGPU-Sim模拟器开发了内建的程序剖析工具,以及确定了影响性能的许多重要因素。在生成替代程序后,通过实验比较了合成后的替代程序与原始的程序从指令级别到线程级别的诸多行为特征上的相似性,并采用吞吐率、动态指令数以及运行时间等性能指标来检验CUDA程序合成方法的有效性。
　　使用来自CUDA SDK、Parboil和Rodinia的测试程序的实验结果表明,合成后的替代程序在线程的维度和线程总数上与原始程序完全一致,而在基本块的个数、平均大小、平均后继数量等基本块级别的特征以及静态指令混合比例上,原始程序与合成后的替代程序的保持了较高的相似性。对于所测试的大部分程序,合成后的替代程序的动态指令数和运行时间有了非常明显的减少。在程序整体性能的表现上,所测试的原始程序与合成的替代程序的IPC的误差不到10％。

目录

封面

声明

中文摘要

英文摘要

目录

1 绪论

1.1 问题提出

1.2 国内外研究现状

1.3 课题背景、研究内容及论文框架结构

2 CUDA程序合成系统设计

2.1 CUDA程序合成系统简介

2.2 CUDA程序合成系统的设计思路

2.3 CUDA程序合成系统的体系结构与功能模块

2.4 CUDA程序合成系统工作流程

2.5 小结

3 CUDA程序合成系统的主要实现技术

3.1 CUDA程序行为剖析

3.2 性能关键行为特征验证

3.3 代码生成

3.4 性能复制

3.5 CUDA程序合成优化

3.6 小结

4 系统测试与分析

4.1 测试对象和测试环境

4.2 功能测试

4.3 性能测试与结果分析

4.4 小结

5 总结与展望

致谢

参考文献

附 录1 攻读学位期间申请的国家发明专利

附 录2 攻读学位期间参与的科研项目