TensorRT 推理时提示This container was built for NVIDIA Driver Release 470.42 or later 解决方法

之前已经在TensorRT7.2.1下将模型转换为trt格式的文件，现在一台新服务器上使用tensorrt8.0.1的容器部署，同样是T4显卡下，出现下面的问题：

This container was built for NVIDIA Driver Release 470.42 or later, but version 460.91.03 was detected and compatibility mode is UNAVAILABLE.

查询了tensorrt8.0.1容器的官方文档，有下面一行：

Release 21.07 is based on NVIDIA CUDA 11.4.0, which requires NVIDIA Driver release 470 or later. However, if you are running on Data Center GPUs (formerly Tesla), for example, T4, you may use NVIDIA driver release 418.40 (or later R418), 440.33 (or later R440), 450.51 (or later R450), or 460.27 (or later R460).

地址：

https://docs.nvidia.com/deeplearning/tensorrt/container-release-notes/rel_21-07.html#rel_21-07

说明是driver版本不匹配。

解决方法

1、在tensorrt8.0.1容器里重新将模型转换为trt模型，模型可以转换成功，运行时也没有报错，但是推理结果不正确（一定要核对推理结果是否正确），说明该方法不可行。

2、在新服务器上重新安装tensorrt7.2.1容器，在里面进行推理，结果正确，此方法成功解决。

方法总结

tensorrt版本的NVIDIA Driver需求要与服务器的NVIDIA Driver相匹配，不然即使转换成功，也会导致推理的结果不正确。我服务器的NVIDIA Driver版本为460.91.03，官方文档上tensorrt7.2.1的要求是

Release 20.11 is based on NVIDIA CUDA 11.1.0, which requires NVIDIA Driver release 455 or later.

所以能正确推理出结果。

总结原因，没有认真了解tensorrt版本与NVIDIA Driver版本的匹配性，导致部署时走了弯路。

TensorRT 推理时提示This container was built for NVIDIA Driver Release 470.42 or later 解决方法相关推荐

在安装project2010 64位时提示 “无法安装64位office，因为已有32位版本”解决方法
在安装project2010 64位时提示 "无法安装64位office,因为已有32位版本"解决方法参考文章: (1)在安装project2010 64位时提示 "无 ...
[UE4]打包运行时提示Plugin ‘‘ failed to load because module ‘‘ could not be found.缺少插件解决方法
提示错误如下 Plugin 'Dialoqueplugin' failed to load because module 'DialoguePlugin' could not be found. Pl ...
Flutter开发：运行项目时提示Error parsing LocalFile：‘/Users/xxx/android/app/src/main/AndroidManifest.xml’…解决方法
前言在Flutter开发初期的时候,会遇到各种各样的问题,这个时候对于刚接触Flutter开发的开发者来说是有点费事费力的,所以在Flutter开发初期要多积累,多查阅,多踩坑,这样才能快速上手开发 ...
Idea运行web项目时,提示java.lang.ClassNotFoundException: com.mysql.jdbc.Driver解决方法
Idea运行web项目时,提示java.lang.ClassNotFoundException: com.mysql.jdbc.Driver解决方法参考文章: (1)Idea运行web项目时,提示j ...
win2000启动时提示“无法定位程序输入点SaferCreateLevel于动态链接库ADVAPI32.dll上”怎么解决？
win2000启动时提示"无法定位程序输入点SaferCreateLevel于动态链接库ADVAPI32.dll上"怎么解决?谢谢悬赏分:5 - 解决时间:2006-5-10 2 ...
解决安装黑苹果出现提示应用程序副本已损坏，不能用来安装macOS的解决方法
安装黑苹果系统出现提示应用程序副本已损坏,不能用来安装macOS的解决方法不管是实体机黑苹果安装,还是虚拟机安装,都会遇得到原因,苹果系统镜像文件中内置的时间证书到期比如现在的时间是2019/ ...
提示“正尝试安装的adobe flash player不是最新版本”的解决方法
在安装flash player 10时遇到提示"正尝试安装的adobe flash player不是最新版本"的解决方法: 执行 regedit,找到以下位置:[HKEY_LOCA ...
安装黑苹果提示未能安装_解决安装黑苹果出现提示应用程序副本已损坏，不能用来安装macOS的解决方法...
安装黑苹果系统出现提示应用程序副本已损坏,不能用来安装macOS的解决方法不管是实体机黑苹果安装,还是虚拟机安装,都会遇得到原因,苹果系统镜像文件中内置的时间证书到期比如现在的时间是2019/ ...
未受用户在此计算机上的请求登陆,win7系统访问网上邻居提示未授予用户在此计算机上的请求登录类型的解决方法...
今天和大家分享一下win7系统访问网上邻居提示未授予用户在此计算机上的请求登录类型问题的解决方法,在使用win7系统的过程中经常不知道如何去解决win7系统访问网上邻居提示未授予用户在此计算机上的请求 ...

TensorRT 推理时提示This container was built for NVIDIA Driver Release 470.42 or later 解决方法

TensorRT 推理时提示This container was built for NVIDIA Driver Release 470.42 or later 解决方法相关推荐

最新文章

热门文章