cuda学习笔记1

本节目标：

• 为主机（Host）编写代码和为设备（Device）编写代码的区别

• 从主机运行设备代码

• 如何在支持CUDA的设备上使用设备内存

• 如何查询系统中支持CUDA的设备信息

1. 在GPU设备上执行的函数称为核函数，NVIDIA工具使用CUDA C编写核函数，CUDA C为标准C增加 global 修饰符，这个修饰符将告诉编译器，函数应该编译为设备而不是主机运行。具有该修饰符的函数将作为核函数交给CUDA编译器编译。

2.从主机运行设备代码，如下所示：

cudaError_t err = cudaSuccess;
    ////参数传递
    int c;
    int *dev_c;
    err = cudaMalloc((void**)&dev_c, sizeof(int));
    add_kernel << <1, 1 >> > (2, 7, dev_c); ////核函数处理
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to allocate device value dev_c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    err = cudaMemcpy(&c, dev_c, sizeof(int), cudaMemcpyDeviceToHost); ////主机代码中，不能对cudaMalloc()返回的指针进行读取，写入内存操作（即不可修改），但可以作参数传递，执行算术运算。
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to copy device value dev_c to c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    printf("2+7=%d\n", c);
    cudaFree(dev_c); ////不可使用free()，因为在主机代码中不可修改该内存的值  ，  总的来说，主机指针只能访问主机代码的内存，设备指针只能访问设备代码的内存

从主机运行设备代码，以下几点值得注意：

1.可以像调用C函数那样将参数传递给核函数

2.当设备执行任何有用操作时，都需要分配内存，例如将计算值返回主机。

3.使用设备内存：关于cudaMalloc()分配到的指针dev_c.

可以将dev_c传递给设备上执行的函数。可以在设备代码中使用dev_c进行内存读/写操作（修改该内存的值）。可以可以将dev_c传递给主机上执行的函数，但是不能在主机代码中对dev_c进行内存读/写操作。因为dev_c申请的是设备内存，不能在主机代码中用主机指针访问设备内存，反过来也一样，不能用设备指针访问主机内存。

然后可以利用cudaMencpy()在主机代码中访问设备内存，设备指针用完后用cudaFree()释放，不可以直接Free(),原因同上，不能在主机代码中直接访问设备内存。

4.查询系统中支持CUDA的设备信息

////查询设备
    cudaDeviceProp prop;
    int count;
    err = cudaGetDeviceCount(&count);
    for (int i = 0; i < count; i++)
    {
        err = cudaGetDeviceProperties(&prop, i);

        if (err != cudaSuccess)
        {
            fprintf(stderr, "Failed to get device %d properties (error code %s)!\n", i, cudaGetErrorString(err));
            exit(EXIT_FAILURE);
        }

        printf("Name: %s\n", prop.name);////这里打印设备信息，具体包含哪些信息查看《NVIDIA CUDA Programming Guide》  
        printf("Compute capability: %d . %d\n", prop.major,prop.minor);
        printf("Total global Mem:%lld\n", prop.totalGlobalMem);
        printf("Total constant Mem:%ld\n", prop.totalConstMem);

    }

完整代码：

#include "cuda_runtime.h"
#include "device_launch_parameters.h"

#include <stdio.h>
#include <helper_cuda.h>
using namespace std;




__global__ void add_kernel(int a,int b, int *c) {
    *c = a + b;
}

int main(void)
{
    cudaError_t err = cudaSuccess;
    ////参数传递
    int c;
    int *dev_c;
    err = cudaMalloc((void**)&dev_c, sizeof(int));
    add_kernel << <1, 1 >> > (2, 7, dev_c); ////核函数处理
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to allocate device value dev_c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    err = cudaMemcpy(&c, dev_c, sizeof(int), cudaMemcpyDeviceToHost); ////主机代码中，不能对cudaMalloc()返回的指针进行读取，写入内存操作（即不可修改），但可以作参数传递，执行算术运算。
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to copy device value dev_c to c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    printf("2+7=%d\n", c);
    cudaFree(dev_c); ////不可使用free()，因为在主机代码中不可修改该内存的值  ，  总的来说，主机指针只能访问主机代码的内存，设备指针只能访问设备代码的内存

    ////查询设备
    cudaDeviceProp prop;
    int count;
    err = cudaGetDeviceCount(&count);
    for (int i = 0; i < count; i++)
    {
        err = cudaGetDeviceProperties(&prop, i);

        if (err != cudaSuccess)
        {
            fprintf(stderr, "Failed to get device %d properties (error code %s)!\n", i, cudaGetErrorString(err));
            exit(EXIT_FAILURE);
        }

        printf("Name: %s\n", prop.name);////这里打印设备信息，具体包含哪些信息查看《NVIDIA CUDA Programming Guide》  
        printf("Compute capability: %d . %d\n", prop.major,prop.minor);
        printf("Total global Mem:%lld\n", prop.totalGlobalMem);
        printf("Total constant Mem:%ld\n", prop.totalConstMem);

    }
    return 0;   
    
}