【CUDA手册】为什么cudaMalloc()需要一个指针的指针？

cudaMalloc()与cudaFree()

cudaFree 和 cudaMalloc 的设计差异源于它们的功能和使用方式。让我们详细解释为什么 cudaFree 只需要一个指针参数，而 cudaMalloc 需要一个指针的指针作为参数。

1. cudaMalloc 的参数设计

函数原型：

cudaError_t cudaMalloc(void** devPtr, size_t size);

参数解释：

• void** devPtr：这是一个指向指针的指针（即二级指针）。
• size_t size：这是需要分配的内存大小（以字节为单位）。

为什么需要 void**？

cudaMalloc 的目的是在设备（GPU）上分配内存，并将分配的内存地址返回给调用者。由于 C/C++ 的指针传递是按值传递的，如果直接传递一个指针（void*），函数内部对指针的修改不会影响到调用者。

为了能够修改调用者传入的指针，使其指向分配的设备内存地址，cudaMalloc 需要一个指针的指针（void**）。这样，函数内部可以通过解引用这个二级指针来修改调用者传入的指针。

示例：