英伟达NVIDIA CUDA驱动 v11.6

电脑软件推荐： TrueCrypt V7.1 汉化版 癞蛤蟆工具箱 v4.0.0.7 SIV-System V4.00绿色版 新微软雅黑字体 V6.10 官方版

最新版本的英伟达NVIDIA CUDA驱动现已同步发布。CUDA是NVIDIA设计的一种并行计算平台和编程模型，能够显著提升计算性能，利用图形处理单元（GPU）的能力。欢迎下载体验。

CUDA™是由NVIDIA开发的一种通用并行计算架构，使GPU能够处理复杂的计算任务。它包括CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。开发者可以使用C语言为CUDA™架构编写程序，从而在支持CUDA™的处理器上实现超高性能运行。CUDA 3.0开始支持C++和FORTRAN语言。

NVIDIA CUDA驱动概述

CUDA的开发目标包括：

提供对标准编程语言（如C）的少量扩展，这些扩展可直接实现并行算法。通过CUDA C / C++，程序员可以专注于算法的并行化，而无需关注具体实现细节。

支持在应用程序中同时使用CPU和GPU进行异构计算。程序的串行部分在CPU上运行，而并行部分则卸载到GPU上。这样，CUDA可以逐步应用于现有应用程序。CPU和GPU各自拥有独立的内存空间，这使得它们可以并行计算而不争用内存资源。

CUDA功能的GPU拥有数百个内核，这些内核可以并行运行数千个计算线程。内核之间共享资源，包括寄存器文件和共享内存。片上共享内存使得并行任务可以在内核之间共享数据，而不需要通过系统内存总线传输。

NVIDIA CUDA驱动使用指南

评估
在现有项目中，首步是评估应用程序以找出执行时间最长的代码部分。了解这些信息后，开发者可以平行处理这些瓶颈，并开始GPU加速的研究。
开发者需了解最终用户的需求和限制，并运用阿姆达尔定律和古斯塔夫森定律来确定性能改进的上限。
平行化
开发者在确定热点和设定目标后，需要对代码进行平行化处理。根据原始代码，处理过程可以简单如调用现有GPU优化库，如立方玻璃、傅立叶变换、推力等，或在并行编译器中添加预处理器指令。
一些应用程序可能需要重构，以揭示其固有的并行性。CUDA并行编程语言（如CUDAC++、CUDAFortran等）旨在简单表达这种并行性，以便在支持CUDA的GPU上实现最大并行吞吐量。
优化
每轮应用程序并行化后，开发者可以开始优化以提升性能。了解应用程序需求有助于优化过程的顺利进行。优化是一个迭代过程（识别优化机会、应用优化并测试、验证加速效果），开发者可以在学习过程中逐步应用优化策略。
从数据传输和计算重叠到浮点计算序列微调，优化可在各级别进行。概要分析工具可以提供优化指导，并参考相关部分的优化建议。
部署
完成应用程序中一个或多个组件的GPU加速后，结果应与原始预期进行对比。初步评估步骤允许开发者通过加速热点来确定潜在的加速上限。在解决其他热点以提升整体速度之前，应首先考虑并行实现并付诸实践，以便用户尽快从投资中获益，并减少开发者和用户的风险。

NVIDIA CUDA驱动软件组成

GPU加速库

CUDA-X库

IndeX框架（IndeX）

语言解决方案

OpenACC编译器指令

NVIDIA CUDA C / C++编译器（NVCC）

参考资料

CUDA C / C++代码示例

CUDA文档

开发工具

NVTAGS

DIGITS深度学习培训系统

Nsight集成开发环境

可视分析器

CUDA-GDB命令行调试器

CUDA-MEMCHECK内存分析仪
 

CUDA工具包官方介绍：

开发、优化和部署GPU加速的应用
NVIDIA® CUDA®工具包提供了一个开发环境，用于创建高性能的GPU加速应用。通过CUDA工具包，您可以在GPU加速的嵌入式系统、台式工作站、企业数据中心、云平台和HPC超级计算机中进行应用开发、优化和部署。该工具包包含多个GPU加速库、调试和优化工具、C/C++编译器以及一个支持主要架构（包括x86、Arm和POWER）构建和部署应用的运行时库。

利用多GPU配置中的分布式计算功能，科学家和研究人员能够开发应用，从单个GPU工作站扩展到配置数千个GPU的云端设施。