admin 管理员组文章数量: 1184232
问题描述
当使用tensorrt的模型时，遇到报错：[TensorRT] ERROR: Cuda initialization failure with error 2. 具体如下图所示：
问题分析
这个错误 cuda initialization failure with error 2 通常表示 CUDA 运行时初始化失败。错误代码 2 对应 cudaErrorMemoryAllocation，但在这个上下文中通常表示更根本的初始化问题。
问题解决
- 检查驱动和CUDA版本兼容性
# 检查驱动和CUDA版本兼容性
nvidia-smi
nvcc --version
- 检查tensorrt的安装
#python代码
import tensorrt as trt
print(f"TensorRT version: {trt.__version__}")
# 测试基本功能
logger = trt.Logger(trt.Logger.WARNING)
builder = trt.Builder(logger)
- 环境变量设置
# 在Python中设置
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"
在查看了驱动和CUDA版本的兼容性没有问题之后，发现通过环境变量设置使用1号显卡上述问题得以解决。
版权声明：本文标题：[TensorRT] ERROR: Cuda initialization failure with error 2._createinferruntime: error code 6: api usage error 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.roclinux.cn/p/1773818606a3566068.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。
发表评论