当我运行nvidia-smi时，我得到以下消息:
初始化NVML失败:驱动程序/库版本不匹配
一小时前，我收到了同样的消息，卸载了我的CUDA库，我能够运行nvidia-smi，得到以下结果:
之后，我从NVIDIA官方页面下载了cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb，然后简单地:
sudo dpkg -i cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb
sudo apt-get update
sudo apt-get install cuda
export PATH=/usr/local/cuda-8.0/bin${PATH:+:${PATH}}
现在我已经安装了CUDA，但我得到了前面提到的不匹配错误。
一些可能有用的信息:
运行cat /proc/driver/nvidia/version得到:
NVRM version: NVIDIA UNIX x86_64 Kernel Module 378.13 Tue Feb 7 20:10:06 PST 2017
GCC version: gcc version 5.4.0 20160609 (Ubuntu 5.4.0-6ubuntu1~16.04.4)
我正在运行Ubuntu 16.04.2 LTS (Xenial Xerus)。
内核发行版是4.4.0-66-generic。
我必须重新启动内核并删除之前安装的所有包(在第一次安装期间)。请确保删除所有的包，即使在删除包后使用下面的命令:
sudo apt-get --purge remove "*nvidia*"
像“libtinfo6:i386”这样的包不会被删除。
我使用的是Ubuntu 20.04 (Focal Fossa)和Nvidia-driver-440。为此，您必须删除下图所示的所有包。
所有需要删除的包的列表:
如图所示，确保您正在安装的包的大小正确。Nvidia-driver-440的内存为207 MB。如果它更少，这意味着您还没有删除所有的包。
我在Ubuntu 16.04上使用Nvidia -348包(Ubuntu 16.04上的最新Nvidia版本)时也遇到了这种情况。
不过，我可以通过专有GPU驱动程序PPA安装nvidia-390来解决这个问题。
因此，在Ubuntu 16.04上解决上述问题的方法是这样做的:
Sudo add-apt-repository ppa:graphics-drivers/ppa
Sudo apt-get update
安装nvidia-390
注意:本指南假设Ubuntu安装干净。如果您安装了以前的驱动程序，可能需要重新启动以重新加载所有内核模块。
前两个答案不能解决我的问题。我在英伟达官方论坛上找到了一个解决方案。
以下错误信息可能是由于使用不同的方法安装了两个不同版本的驱动程序而导致的。例如，通过APT和官方安装程序安装Nvidia驱动。
初始化NVML失败:驱动程序/库版本不匹配
为了解决这个问题，只需要执行以下两个命令中的一个。
sudo apt-get --purge remove "*nvidia*"
sudo /usr/bin/nvidia-uninstall
正如etal所说，重新启动可以解决这个问题，但我认为不重新启动的过程会有所帮助。
对于中文，请查看我的博客->中文版
错误消息
NVML:驱动程序/库版本不匹配
告诉我们Nvidia驱动内核模块(kmod)有一个错误的版本，所以我们应该卸载这个驱动程序，然后加载正确的kmod版本
我们怎么做呢?
首先，我们应该知道加载了哪些驱动程序。
lsmod | grep nvidia
你可能会得到
nvidia_uvm 634880 8
nvidia_drm 53248 0
nvidia_modeset 790528 1 nvidia_drm
nvidia 12312576 86 nvidia_modeset,nvidia_uvm
我们的最终目标是卸载nvidia mod，所以我们应该卸载依赖于nvidia的模块:
sudo rmmod nvidia_drm
sudo rmmod nvidia_modeset
sudo rmmod nvidia_uvm
然后，卸载英伟达
sudo rmmod nvidia
故障排除
如果你得到类似rmmod: error: Module nvidia is in use这样的错误，这表明内核模块正在被使用，你应该杀死使用kmod的进程:
sudo lsof /dev/nvidia*
然后终止那些进程，然后继续卸载kmods。
Test
确认您成功卸载了这些kmods
lsmod | grep nvidia
你什么也得不到。然后确认你可以加载正确的驱动程序:
nvidia-smi
您应该得到正确的输出。
我必须重新启动内核并删除之前安装的所有包(在第一次安装期间)。请确保删除所有的包，即使在删除包后使用下面的命令:
sudo apt-get --purge remove "*nvidia*"
像“libtinfo6:i386”这样的包不会被删除。
我使用的是Ubuntu 20.04 (Focal Fossa)和Nvidia-driver-440。为此，您必须删除下图所示的所有包。
所有需要删除的包的列表:
如图所示，确保您正在安装的包的大小正确。Nvidia-driver-440的内存为207 MB。如果它更少，这意味着您还没有删除所有的包。
我也遇到过同样的问题，我把我的解决方案贴在这里。
在我的例子中，NVRM版本为440.100，驱动程序版本为460.32.03。我的驱动程序是由sudo apt install caffe-cuda更新的，当时我没有注意到，但我从/var/log/apt/history.log中检查了它。
通过遵循我的NVRM版本，我只是使用sudo apt安装nvidia-driver-440，但它安装了450.102。我不知道为什么它安装了另一个版本，nvidia-smi显示为450.102.04。
总之，重启电脑后，一切都很好了。重新安装驱动程序后，我的CUDA仍然工作正常。
我没有删除/清除任何与Nvidia驱动程序相关的东西。运行sudo apt install nvidia-driver-440自动卸载460.32.03版本。
