CUDA C 矩阵乘优化
CUDA C 矩阵乘的分块优化
使用分块的矩阵乘法是比较常用的优化矩阵乘法的方式,作为初学CUDA的人来讲理解起来还是略微有点困难的。同时矩阵乘法在HPC工程师面试的过程中也是被经常提到的。在CUDA的sample的目录下就有矩阵乘的程序,本代码简化其程序,尽可能讲清楚其中代码实现的细节。
为了简单起见,我们在此的矩阵使用了方阵,即:矩阵A、B的高宽都为N,那么结果矩阵C的高宽自然也是N。
一、未优化的矩阵乘
矩阵A (NxN),矩阵B(NxN),结果矩阵C (NxN)
每个线程处理矩阵A的一行和矩阵B的一列,如下图(C中一个红点代表一个元素):
kernel代码如下:
#define N 8192
#define BLOCK_SIZE 32__global__ void matrix_mul_kernel(int* A, int* B,int* C)
{long row=blockIdx.y*blockDim.y+threadIdx.y;long col=blockIdx.x*blockDim.x+threadIdx.x;int i=0;int csum=0;for(i=0;i<N;i++){csum+=A[row*N+i]*B[i*N+col];}C[row*N+col]=csum;
}
Gird、block的大小定义,内核启动:
dim3 ngrid(N/BLOCK_SIZE,N/BLOCK_SIZE);dim3 nblock(BLOCK_SIZE,BLOCK_SIZE);matrix_mul_kernel<<<ngrid,nblock>>>(d_a,d_b,d_c);
二、矩阵分块
由于每个线程都要读取A的一行和B的一列,A的每一个行都要从全局存储中被读取N次,这样会极大影响性能。所以考虑矩阵分块,将数据块首先读取到shared memory中。然后在计算C矩阵的部分和。如下图:
要计算C矩阵的一个块(图中C矩阵的灰色块),
1、每一个block读取A的一个块subA(图中A矩阵的0号灰色块)和B的一个块subB(图中B矩阵的0号灰色块)到 shared memory中。
2、block中每一个线程计算subA的一行与subB的一列,这样得到了C的部分和。
3、计算完A和B 的0号块,再读取A和B的1号块,继续计算,依次类推计算2、3号块。
kernel代码:
<pre name="code" class="cpp">
#define N 8192
#define BLOCK_SIZE 32__global__ void matrix_mul_kernel(int* a, int* b,int* c)
{int tx=threadIdx.x;int ty=threadIdx.y;int bx=blockIdx.x;int by=blockIdx.y;int astart=blockIdx.y*BLOCK_SIZE*N;//获取A矩阵中0号块的起始位置,对应图中的A矩阵0号块的左上角的红红色圆点int bstart=blockIdx.x*BLOCK_SIZE;//获取B矩阵中0号块的起始位置,对应图中的B矩阵0号块的左上角的红红色圆点int astep=BLOCK_SIZE; //每两个块之间的步长int bstep=BLOCK_SIZE*N; //每两个块之间的步长 (在内存中是按行存储,因此要乘以个N)int csub=0;__shared__ int A[BLOCK_SIZE][BLOCK_SIZE];//在shared memory 中创建subA所需空间__shared__ int B[BLOCK_SIZE][BLOCK_SIZE];int nblock=N/BLOCK_SIZE;int k=0;int i=0;for(k=0;k<nblock;k++){A[ty][tx]=a[astart+k*astep+ty*N+tx];//如果对这个是怎么计算的不理解看下面的注释a[astart+k*astep+ty*N+tx]B[ty][tx]=b[bstart+k*bstep+ty*N+tx];__syncthreads();for(i=0;i<BLOCK_SIZE;i++){csub+=A[ty][i]*B[i][tx];}__syncthreads();}int cstart=by*BLOCK_SIZE*N+BLOCK_SIZE*bx;c[cstart+ty*N+tx]=csub;}
注解:a[(astart+k*astep)+(ty*N+tx)],astart+k*astep计算出每一个块的起始元素的位置(对应图中的每一个块的左上角的红色点),ty*N+tx计算当前线程要处理的数据元素与块的起始元素(红点)之间的距离。
(完)
CUDA C 矩阵乘优化相关推荐
- CUDA实例系列一: 矩阵乘法优化
CUDA实例系列一----矩阵乘法优化 很多朋友在学习CUDA的时候都会面临一个题目----矩阵乘法, 这也是CUDA最广泛的应用之一. 本文将详细讲解如何利用GPU加速矩阵乘法的计算. 话不多说, ...
- CUDA 矩阵乘法优化
这个完全是基础知识啊~~ 哪不对 大佬们帮忙指出啊 CUDA 矩阵乘法优化手段详解 Naive 实现的分析:到底差在哪里? 笔者面试过不少具有 CUDA 编程经验的校招同学,当提问使用 CUDA 编 ...
- CUDA: 矩阵乘法优化
矩阵乘法是有实用价值的程序,我们会使用浮点数. 虽然矩阵乘法有点老套,不过因为它相当简单,而且也可以用来介绍一些有关 CUDA 的有趣性质. 矩阵乘法 为了单纯起见,我们这里以方形的矩阵为例子.基本上 ...
- CUDA实现矩阵相乘
文章目录 前言 1.简单思路 分析 2.优化 总结 前言 本文主要借助CUDA实现矩阵相乘. 1.简单思路 #include <stdio.h>#define BLOCK_NUM 8 #d ...
- 形态形成场(矩阵乘法优化dp)
形态形成场(矩阵乘法优化dp) 短信中将会涉及前\(k\)种大写字母,每个大写字母都有一个对应的替换式\(Si\),替换式中只会出现大写字母和数字,比如\(A→BB,B→CC0,C→123\),代表 ...
- 【BZOJ 3326】[Scoi2013]数数 数位dp+矩阵乘法优化
挺好的数位dp-- 先说一下我个人的做法: 经过观察,发现这题按照以往的思路从后往前递增,不怎么好推,然后我就大胆猜想,从前往后推,发现很好推啊,维护四个变量,从开始位置到现在有了i个数 f[i]:所 ...
- OpenBLAS项目与矩阵乘法优化 | AI 研习社
提起矩阵计算,学过<高等数学>的人可能都听过,但若不是这个领域的研究者,恐怕也只停在"听过"的程度.在矩阵计算领域,开源项目OpenBLAS影响巨大,除IBM.华为等巨 ...
- 异构计算实验——CUDA计算矩阵幂
CUDA计算矩阵幂 ** 一.实验内容 本次实验内容为基于CUDA的GPU实现矩阵的幂.要求分别用暴力算法和高效算法实现矩阵的幂. 对于一个 的方阵 ,计算的次幂.首先,生成一个的方阵,保证每行每列元 ...
- 【Contra】 矩阵乘法优化 dp
偶然间,chnlich发现了他小时候玩过的一个游戏"魂斗罗",于是决定怀旧.但是这是一个奇怪的魂斗罗MOD.有N个关卡,初始有Q条命.每通过一个关卡,会得到u分和1条命,生命上限为 ...
最新文章
- 如何在桌面上安装运行Rancher 2.0
- 软件项目经理新手上路8 - 最后期限的迷局
- linux文泉驿字体调用,使用文泉驿点阵字体解决Linux中文化问题
- python获取城市天气数据案例
- php定时某个时间循环做,PHP定时循环执行脚本
- Servlet处理文件下载的编码问题,乱码。
- php全局化标签,PHP – 在整个应用程序中使类对象全局化?
- 力扣-628 三个数的最大乘积
- python的简洁运算符_Python实现的简单算术游戏实例 python中算数运算符都有哪些...
- 无线网和网吧服务器,网吧也无线?网吧无线网解决方案
- 学校计算机比赛策划,学校计算机技能比赛活动策划方案
- java课程设计 成绩_Java课程设计—学生成绩管理系统(201521123005 杨雪莹)
- 爬虫技术:携程爬虫阳光问政数据
- Bugku:分析 手机热点
- 使用dnsmasq,实现本地的DNS服务
- 2020腾讯数分笔试
- (转)刹车离合同时踩非常危险
- shell 中匹配正则 字符串处理
- 6个高清图片下载网站:免费!可商用!帮助各位CSDN产品、UI、前端、运营、数据分析、图形图像处理与AI学习等伙伴们!
- jsoncpp中json字符串的格式化及非格式化转换
热门文章
- 程序员2014精华本
- 苹果自研 M1 芯片跑分曝光-新 MacBook Air 超 2019 款顶配 MacBook Pro
- Linux-Level2-day03:内存映射及其分配释放函数brk/sbrk->mmap/munmap;系统调用过程详解;
- 【NOIP模拟赛】异象石
- BeeWare官方教程中文版
- js 停顿一秒_[js样式效果]具有停顿效果上下滚动方式
- Linux下的豆瓣FM音乐播放器和虾米音乐播放器
- 笔记93--完全退出应用程序
- 图形图像类计算机,(计算机图形图像类型.ppt
- 台式计算机谁发明的,电脑是谁发明的