测试脚本text_generation.py使用gpu模式时报错。使用cpu正常。

[summerghw]

RuntimeError: CUDA error: CUBLAS_STATUS_INVALID_VALUE when calling cublasGemmEx( handle, opa, opb, m, n, k, &falpha, a, CUDA_R_16F, lda, b, CUDA_R_16F, ldb, &fbeta, c, CUDA_R_16F, ldc, CUDA_R_32F, CUBLAS_GEMM_DFALT_TENSOR_OP)

[EnHuiPug]

cuda是不是没配置好
命令行 nvcc -V 看看
import torch 然后 print(torch.version.cuda) 看看

[summerghw]

torch version 是对的，nvcc是老款的，把原来的软连接删了，现在可以了。thx