GPU的性能非常强大，因此无论Intel还是AMD都看到了这一点，不过因为自身处理器发展成熟的缘故，所以这两家处理器公司都采用了GPGPU的提法，也就是基于x86处理器架构的平台，它与NVIDIA概念上的区别就是：它的计算仍然通过API送入GPU的，传统的GPGPU应用往往要了解OpenGL编程或者DirectX编程。

    而NVIDIA基于CUDA平台的解决方案，如果你的应用不涉及OpenGL或者DirectX的话就可以不用理会那些API。也就是说以前的GPGPU进行通用计算是通过把这些问题转换成为图形计算送到GPU中完成的，而现在基于CUDA则可以直接调用GPU的计算资源，成为高性能计算的软件开发环境。

    那么CUDA究竟是什么呢？CUDA（Compute Unified Device Architecture）是显卡厂商NVIDIA推出的一个基于其自身GPU的运算平台，它可以让显卡可以用于图像计算以外的目的。CUDA工具集的核其实心是一个C语言编译器，CUDA开发环境的具体内容包括：

· nvcc C语言编译器
· 适用于GPU（图形处理器）的CUDA FFT和BLAS库
· 分析器
· 适用于GPU（图形处理器）的gdb调试器（在2008年3月推出alpha版）
· CUDA运行时（CUDA runtime）驱动程序（目前在标准的NVIDIA GPU驱动中也提供）
· CUDA编程手册

    CUDA开发者软件开发包（SDK）提供了一些范例（附有源代码），以帮助使用者开始CUDA编程。这些范例包括：

· 并行双调排序
· 矩阵乘法
· 矩阵转置
· 并行大数组的前缀和（扫描）
· 图像卷积
· 使用Haar小波的一维DWT
· OpenGL和Direct3D图形互操作示例 
· Monte-Carlo期权定价模型
· 并行Mersenne Twister（随机数生成）
· 并行直方图
· 图像去噪
·……等等

    首先要说明的一点是，CUDA尤其擅长的是某一方面，而并不是面面俱到。CUDA的开发是基于NVIDIA GPU平台的，因此发挥GPU的并行优势才是最主要的目的。理论上讲，CUDA对于非图形的计算并没有什么限制，不过它还是相对比较适合高度并行的计算，毕竟这是它的长处。这里所谓的高度并行的数量级为上千个，相对于CPU来讲，双核的CPU也许几个线程就能充满它整个的计算单元，然而CUDA-enabled GPU却能够容纳上千个线程（也就是GPU中数百个SP单元的功力），所以常遇到的高性能计算领域的问题就特别适用于CUDA，而之前通常采用计算机集群的方式来进行计算。

    而目前GPU已经发展到十分强大的地步，从GeForce6开始，就能够支持比较复杂的控制指令，比如条件转移、分支、循环和子程序调用等。而到了新一代的显卡，GPU的程序控制能力又增强了很多，支持的程序长度也得到了更大的扩展，也就是说利用GPU还是可以写一些比较复杂的程序。

    当然CUDA也有其弱势的地方，其还是主要去做那些能够分成很多个独立线程的数值计算。比如说矩阵的乘法计算，矩阵相对应的元素的计算是没有什么联系的，可以很多个线程同时送入很多个处理器进行并行处理，这就非常适合于用CUDA来解决。当然并不是所有的事情CUDA都能够很好地解决，比如像操作系统这样复杂的指令和纷繁的分支循环而又用很少的线程来处理，这显然就不是CUDA的强项了。高度并行的计算是CUDA的技术特性之一。

『GPU的架构非常合适进行大规模的并行计算』

    CUDA已经应用在很多领域，包括在通用计算中的一些GPU加速，游戏中的物理模拟等等，而在科学计算中，CUDA可发挥的功效就更大了。比如有限元的计算、神经元的研究计算、地质分析等等科学研究的领域；当然目前GPU计算的应用还是处于一个早期的阶段，大部分CUDA应用都是专业人员和相关的程序员在开发，随着CUDA的广泛推行，以后会有实际的基于CUDA的程序，更多的程序员能够加入进来，并且开发一些可以给大家日常应用带来好处的程序，只要有支持CUDA的GPU就能够利用到GPU计算的好处。

    最后来说明一下某些读者对于CUDA的误解，可能有人认为“有了GPU之后CPU就不需要了”，这也是不对的。显然，GPU和CPU还是做不同的工作的，GPU的计算主要集中在高效率低成本的高性能并行计算，所以事实上在一个系统里面，一个高效的GPU配合一个高效的CPU，整体的效率还是会有明显提升的。