C#通过OpenCL调用GPU进行高效并行运算

GPU 的并行运算能力远超 CPU,
有时候我们会需要用到超大数据并行运算,
可以考虑用 GPU 实现,
这是一篇 C#调用 GPU 进行运算的样例。

下载相关库

https://sourceforge.net/projects/openclnet/
里面有源码也有 DLL,可以引用 DLL,也可以直接把源码添加到工程使用.(建议直接添加代码...)
需要注意的是 :自己建立的工程有个默认的 Program 类,要改成别的名字,不然会和这里面一个同名的类冲突....

建立工程

将 Program 类改名,添加 OpenCL.Net 源码引用
项目属性里改为[允许不安全代码]

在 MainProgram 里声明引用

using OpenCLNet;
using CL = OpenCLNet;

添加一个类

public static class Extend
{
    /// <summary>
    /// 取指针
    /// </summary>
    /// <param name="obj"></param>
    /// <returns></returns>
    public static unsafe IntPtr ToIntPtr(this int[] obj)
    {
        IntPtr PtrA = IntPtr.Zero;
        fixed (int* Ap = obj) return new IntPtr(Ap);
    }
}//End Class

设置 GPU 代码(OpenCL)

#region OpenCL Code
private static string CLCode = @"
__kernel void vector_add_gpu(__global int* src_a, __global int* src_b, __global int* res)
{
    const int idx = get_global_id(0);
    res[idx] =src_a[idx] + src_b[idx];
}

__kernel void vector_inc_gpu(__global int* src_a, __global int* res)
{
    const int idx = get_global_id(0);
    res[idx] =src_a[idx] + 1;
}
";
#endregion

选中设备

不选可能无法运算，很多电脑上都有多个 GPU

//获取运算核心的数量
OpenCL.GetPlatformIDs(32, new IntPtr[32], out uint num_platforms);
var devs = new List<Device>(); //list保存信息
//枚举所有设备(CPU和GPU)
for (int i = 0; i < num_platforms; i++)
{
    //这里后面有个参数,是Enum,这里选择GPU,表示只枚举GPU,在没有GPU的电脑上可以选CPU,也可以传ALL,会把所有设备枚举出来供选择
    devs.AddRange(OpenCL.GetPlatform(i).QueryDevices(DeviceType.GPU));
}

//选中运算设备,这里选第一个其它的释放掉
var oclDevice = devs[0];

配置上下文

//根据配置建立上下文，上下文用来描述CPU与运算设备之间的主从关系.
var oclContext = oclDevice.Platform.CreateContext(
    new[] { (IntPtr)ContextProperties.PLATFORM, oclDevice.Platform.PlatformID, IntPtr.Zero, IntPtr.Zero },
    new[] { oclDevice },
    (errInfo, privateInfo, cb, userData) => { },
    IntPtr.Zero
);

创建命令队列

OpenCL 的命令要放到队列里,然后一次性调用执行方法等待执行完毕,它可以乱序执行,也可以顺序执行.如果你想等某命令执行完再继续,可以在中间加上栅栏。

//创建命令队列
var oclCQ = oclContext.CreateCommandQueue(oclDevice, CommandQueueProperties.PROFILING_ENABLE);

编译 OpenCL 代码,并引出两个 Kernel

这里的编译是指将刚才设置的 OpenCL 代码转化成 Kernel（GPUCPU 可以执行内容）

//定义一个字典用来存放所有核
var Kernels = new Dictionary<string, Kernel>();
#region 编译代码并导出核
var oclProgram = oclContext.CreateProgramWithSource(CLCode);
try
{
    oclProgram.Build();
}
catch (OpenCLBuildException EEE)
{
    Console.WriteLine(EEE.BuildLogs[0]);
    Console.ReadKey(true);
    throw EEE;
    //return null;
}
foreach (var item in new[] { "vector_add_gpu", "vector_inc_gpu" })
{
    Kernels.Add(item, oclProgram.CreateKernel(item));
}
oclProgram.Dispose();
#endregion

调用 Kernel

#region 调用vector_add_gpu核
{
    var A = new int[] { 1, 2, 3, 1722 };
    var B = new int[] { 456, 2, 1, 56 };
    var C = new int[4];
    //在显存创建缓冲区并把HOST的数据拷贝过去
    var n1 = oclContext.CreateBuffer(MemFlags.READ_WRITE | MemFlags.COPY_HOST_PTR, A.Length * sizeof(int), A.ToIntPtr());
    var n2 = oclContext.CreateBuffer(MemFlags.READ_WRITE | MemFlags.COPY_HOST_PTR, B.Length * sizeof(int), B.ToIntPtr());
    //还有一个缓冲区用来接收回参
    var n3 = oclContext.CreateBuffer(MemFlags.READ_WRITE, B.Length * sizeof(int), IntPtr.Zero);
    //把参数填进Kernel里
    Kernels["vector_add_gpu"].SetArg(0, n1);
    Kernels["vector_add_gpu"].SetArg(1, n2);
    Kernels["vector_add_gpu"].SetArg(2, n3);
    //把调用请求添加到队列里,参数分别是:Kernel,数据的维度,每个维度的全局工作项ID偏移,每个维度工作项数量(我们这里有4个数据,所以设为4),每个维度的工作组长度(这里设为每4个一组)
    oclCQ.EnqueueNDRangeKernel(Kernels["vector_add_gpu"], 1, new[] { 0 }, new[] { 4 }, new[] { 4 });
    //设置栅栏强制要求上面的命令执行完才继续下面的命令.
    oclCQ.EnqueueBarrier();
    //添加一个读取数据命令到队列里,用来读取运算结果
    oclCQ.EnqueueReadBuffer(n3, true, 0, C.Length * sizeof(int), C.ToIntPtr());
    //开始执行
    oclCQ.Finish();

    n1.Dispose();
    n2.Dispose();
    n3.Dispose();
    C = C;//在这里打断点,查看返回值
}
// */
#endregion

释放资源

//按顺序释放之前构造的对象
oclCQ.Dispose();
oclContext.Dispose();
oclDevice.Dispose();

本文标题：C#通过OpenCL调用GPU进行高效并行运算
本文连接：https://blog.dextercai.com/archives/41.html
除另行说明，本站文字内容采用创作共用版权 CC-BY-NC-ND 4.0 许可协议，版权归本人所有。
除另行说明，本站图片内容版权归本人所有，任何形式的使用需提前联系。