这篇文章主要讲解了“C++如何使用cuBLAS加速矩阵乘法运算”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“C++如何使用cuBLAS加速矩阵乘法运算”吧!
test.cpp
#include "cuda_runtime.h"
#include "cublas_v2.h"
#include <time.h>
#include <iostream>
using namespace std;
// cuBLAS实现矩阵乘法
int **matMult_cuBLAS(int **A, int **B, int rowSizeA, int colSizeA, int colSizeB, cublasHandle_t cuHandle){
// 结果矩阵
int** C = new int*[rowSizeA];
for(int i = 0; i < rowSizeA; i++){
C[i] = new int[colSizeB];
}
for (int i = 0; i < rowSizeA; i++){
for (int j = 0; j < colSizeB; j++){
C[i][j] = 0;
}
}
// 在内存中为将要计算的矩阵开辟空间
float *h_A = (float*)malloc (rowSizeA * colSizeA * sizeof(float));
float *h_B = (float*)malloc (colSizeA * colSizeB * sizeof(float));
float *h_C = (float*)malloc (rowSizeA * colSizeB * sizeof(float));
// 初始化计算矩阵h_A和h_B
for (int i = 0; i < rowSizeA; i++) {
for (int j = 0; j < colSizeA; j++) {
h_A[i * colSizeA + j] = (float)A[i][j];
}
}
for (int i = 0; i < colSizeA; i++) {
for (int j = 0; j < colSizeB; j++) {
h_B[i * colSizeB + j] = (float)B[i][j];
}
}
// 在显存中为将要计算矩阵与结果矩阵开辟空间
float *d_A, *d_B, *d_C;
cudaMalloc (
(void**)&d_A, // 指向开辟的空间的指针
rowSizeA * colSizeA * sizeof(float) // 需要开辟空间的字节数
);
cudaMalloc (
(void**)&d_B,
colSizeA * colSizeB * sizeof(float)
);
cudaMalloc (
(void**)&d_C,
rowSizeA * colSizeB * sizeof(float)
);
// 将矩阵数据传递进显存中已经开辟好了的空间
cublasSetVector (
rowSizeA * colSizeA, // 要存入显存的元素个数
sizeof(float), // 每个元素大小
h_A, // 主机端起始地址
1, // 连续元素之间的存储间隔
d_A, // GPU 端起始地址
1 // 连续元素之间的存储间隔
);
cublasSetVector (colSizeA * colSizeB, sizeof(float), h_B, 1, d_B, 1);
// 传递进矩阵相乘函数中的参数,具体含义请参考函数手册.
float a=1; float b=0;
// 矩阵相乘.该函数必然将数组解析成列优先数组
cublasSgemm (
cuHandle, // blas 库对象
CUBLAS_OP_T, // 矩阵 A 属性参数
CUBLAS_OP_T, // 矩阵 B 属性参数
rowSizeA, // A, C 的行数
colSizeB, // B, C 的列数
colSizeA, // A 的列数和 B 的行数
&a, // 运算式的 \alpha 值
d_A, // A 在显存中的地址
colSizeA, // lda
d_B, // B 在显存中的地址
colSizeB, // ldb
&b, // 运算式的 \beta 值
d_C, // C 在显存中的地址(结果矩阵)
rowSizeA // ldc
);
// 从 显存 中取出运算结果至 内存中去
cublasGetVector (
rowSizeA * colSizeB, // 要取出元素的个数
sizeof(float), // 每个元素大小
d_C, // GPU 端起始地址
1, // 连续元素之间的存储间隔
h_C, // 主机端起始地址
1 // 连续元素之间的存储间隔
);
for (int i = 0; i < rowSizeA; i++) {
for (int j = 0; j < colSizeB; j++) {
C[i][j] = (int)h_C[j * rowSizeA + i];
}
}
// 清理掉使用过的内存
free (h_A); free (h_B); free (h_C); cudaFree (d_A);
cudaFree (d_B); cudaFree (d_C);
return C;
}
// 构造一个随机二维数组(矩阵)
int** uniformMat(int rowSize, int colSize, int minValue, int maxValue) {
int** mat = new int* [rowSize];
for (int i = 0; i < rowSize; i++)
mat[i] = new int[colSize];
// srand(1024);
srand((unsigned)time(NULL)); //随机数种子采用系统时钟
for (int i = 0; i < rowSize; i++) {
for (int j = 0; j < colSize; j++) {
mat[i][j] = (int)(rand() % (maxValue - minValue + 1)) + minValue;
}
}
return mat;
}
int main(void)
{
// 创建并初始化 CUBLAS 库对象
// 若是CUBLAS对象在主函数中初始化,cuBLAS方法在其他函数中调用,需要将cuHandle传入该函数,并在该函数内创建status对象
cublasHandle_t cuHandle;
cublasStatus_t status = cublasCreate(&cuHandle);
if (status != CUBLAS_STATUS_SUCCESS)
{
if (status == CUBLAS_STATUS_NOT_INITIALIZED) {
cout << "CUBLAS 对象实例化出错" << endl;
}
getchar ();
return EXIT_FAILURE;
}
// 矩阵大小定义
int rowSizeA = 3; // 矩阵A的行数
int colSizeA = 4; // 矩阵A的列数和矩阵B的行数
int colSizeB = 2; // 矩阵B的列数
// 构造一个3行4列的矩阵A,矩阵元素在(0,4)内随机选取
int **A = uniformMat(rowSizeA, colSizeA, 0, 4);
// 构造一个4行2列的矩阵B,矩阵元素在(5,9)内随机选取
int **B = uniformMat(colSizeA, colSizeB, 5, 9);
// 输出矩阵A和B
cout << "矩阵 A :" << endl;
for (int i = 0; i < rowSizeA; i++) {
for (int j = 0; j < colSizeA; j++) {
cout << A[i][j] << " ";
}
cout << endl;
}
cout << endl;
cout << "矩阵 B :" << endl;
for (int i = 0; i < colSizeA; i++) {
for (int j = 0; j < colSizeB; j++) {
cout << B[i][j] << " ";
}
cout << endl;
}
cout << endl;
// 使用cuBLAS进行矩阵乘法运算:C = A * B
int **C = matMult_cuBLAS(A, B, rowSizeA, colSizeA, colSizeB, cuHandle);
// 输出矩阵C,即运算结果
cout << "矩阵 C :" << endl;
for (int i = 0; i < rowSizeA; i++) {
for (int j = 0; j < colSizeB; j++) {
cout << C[i][j] << " ";
}
cout << endl;
}
cout << endl;
// 释放 CUBLAS 库对象
cublasDestroy (cuHandle);
return 0;
}
在终端输入:
nvcc -lcublas test.cpp -o t
./t
运算结果:
矩阵 A :
1 3 2 0
2 1 2 1
4 3 2 4矩阵 B :
6 8
7 5
7 6
7 6矩阵 C :
41 35
40 39
87 83
感谢各位的阅读,以上就是“C++如何使用cuBLAS加速矩阵乘法运算”的内容了,经过本文的学习后,相信大家对C++如何使用cuBLAS加速矩阵乘法运算这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!
亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。