### Python 中 CUDA 加速的实现方式 #### PyTorch 的 CUDA 支持 在 PyTorch 中，可以通过简单的函数调用来检测并启用 CUDA 加速。以下是基本流程： 1. **检测 CUDA 是否可用** 使用 `torch.cuda.is_available()` 来判断当前环境是否支持 CUDA[^1]。 ```python import torch if torch.cuda.is_available(): print('当前可以使用 cuda GPU加速') else: print('当前不可以使用 cuda GPU加速') ``` 2. **将张量移动到 GPU 上** 如果设备支持 CUDA，则可以将模型和数据迁移到 GPU。 ```python device = torch.device("cuda" if torch.cuda.is_available() else "cpu") tensor_gpu = some_tensor.to(device) model.to(device) ``` --- #### Numba 的 CUDA 编程 Numba 是一种 JIT (Just-In-Time) 编译器，能够显著提升数值计算的速度。通过其 `@cuda.jit` 装饰器，可以直接编写 CUDA 内核代码，并将其应用于大规模数组运算[^2]。 以下是一个向量相加的例子： ```python from numba import cuda, float32 import numpy as np import time def vecAdd(n, a, b, c): for i in range(n): c[i] = a[i] + b[i] @cuda.jit def add_kernel(x, y, out): tx = cuda.threadIdx.x ty = cuda.blockIdx.x block_size = cuda.blockDim.x grid_size = cuda.gridDim.x start = tx + ty * block_size stride = block_size * grid_size for i in range(start, x.shape[0], stride): out[i] = x[i] + y[i] def test_add(): n = 100000 x = np.arange(n).astype(np.float32) y = 2 * x out = np.empty_like(x) threads_per_block = 128 blocks_per_grid = 30 t1 = time.time() add_kernel[blocks_per_grid, threads_per_block](x, y, out) print(f'GPU cost time is: {time.time() - t1}') print(out[:20]) if __name__ == "__main__": test_add() ``` 此代码展示了如何利用 GPU 并行化处理大量数据的操作。 --- #### OpenCV 的 CUDA 加速 OpenCV 提供了对 CUDA 的原生支持，允许开发者充分利用 GPU 进行图像处理操作[^3]。为了开启 CUDA 功能，需按照特定步骤编译带有 CUDA 支持的 OpenCV 版本[^4]。 ##### 安装与配置 1. 下载 OpenCV 源码以及必要的依赖项。 2. 使用 CMake 工具配置构建选项，确保启用了 `-D WITH_CUDA=ON` 参数。 3. 解决可能遇到的问题（如 `.cache/nvidia_optical_flow/` 文件缺失），手动下载所需资源并重命名至指定格式。 ##### 示例代码 加载图片并通过 GPU 执行滤波操作： ```python import cv2 import numpy as np # 初始化 GPU 设备 cv2.setUseOptimized(True) cv2.ocl.setUseOpenCL(True) # 将输入图像上传到 GPU img_cpu = cv2.imread('image.jpg', cv2.IMREAD_GRAYSCALE) img_gpu = cv2.UMat(img_cpu) # 应用高斯模糊 blurred_img = cv2.GaussianBlur(img_gpu, (5, 5), 0) # 将结果从 GPU 移回 CPU result = cv2.UMat.get(blurred_img) cv2.imshow('Result', result) cv2.waitKey(0) cv2.destroyAllWindows() ``` --- #### 性能对比分析 通常情况下，CPU 和 GPU 的性能差异取决于具体应用场景。对于矩阵乘法、卷积神经网络训练等高度并行化的任务，GPU 显著优于 CPU；而对于串行逻辑密集型任务，CPU 可能表现更好。 ---