GPU硬件架构及CUDA编程模型

前言

        在信号处理领域，随着信号处理规模急剧的增大，采用传统的处理机（如FPGA和DSP），其精度虽然可以达到工程要求，但是存在可移植性差、程序开发和调式周期长且硬件成本高等缺点。与传统处理机相比，仅使用中央处理器(CPU)作为计算平台，其底层架构决定其更适合逻辑密集运算，在处理实时数据时会受到很大的限制。而GPU的底层架构决定了其在并行计算方面具有独特的优势，适合大规模数据的并行运算。

采用CPU+GPU异构平台可以获得以下优势：

1. 更高的性能：GPU芯片底层设计了大量算术逻辑单元，可以实现大规模数据的并行运算。
2. 更强的通用性：CPU和GPU都是通用处理器，支持多种数据类型的运算，而传统的处理方式需要专门的配置及编程才能实现特定的算法功能，同时当数据类型复杂和算法功能多样时，会大大增加开发难度。
3. 更高的灵活性：CPU和GPU都是可编程处理器，因此可以通过编程实现参数配置的优化，并且可以通过灵活设置模块参数以适用于不同的工作模式，具有很好的灵活性。
4. 更高的计算精度：CPU和GPU都支持单精度和双精度运算，相同的输入信号经过处理后可以获得一致的输出，精度甚至可达10-13。
5. 更低的成本：CPU和GPU都是通用处理器，其成本相较于FPGA和DSP低很多，而且由于CPU和GPU使用领域越来越广泛，因此具有更大的市场规模，其价格也相对更低。

1  GPU技术的发展：

        1999年，发布标志性产品GeForce256时被首次提出，而这款产品也是全球首款图形处理器(Graphics Processing Unit，GPU)；

         2001年，英伟达公司发布了Geforce3系列，不仅提高了运行速度，还首次支持微软公司同年发布DirectX 8.0的标准，同时是首款可编程GPU；

        2001年，ATI公司推出了Rafeon 8500，与NVIDIA展开了强有力的竞争，大大推动了GPU技术的发展；

        2004年，英伟达不再满足于利用GPU做渲染，而是开始转向通用计算领域，具有代表性的有NVIDIA的GeForce