当我运行nvidia-smi时，我得到以下消息:
初始化NVML失败:驱动程序/库版本不匹配
一小时前，我收到了同样的消息，卸载了我的CUDA库，我能够运行nvidia-smi，得到以下结果:
之后，我从NVIDIA官方页面下载了cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb，然后简单地:
sudo dpkg -i cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb
sudo apt-get update
sudo apt-get install cuda
export PATH=/usr/local/cuda-8.0/bin${PATH:+:${PATH}}
现在我已经安装了CUDA，但我得到了前面提到的不匹配错误。
一些可能有用的信息:
运行cat /proc/driver/nvidia/version得到:
NVRM version: NVIDIA UNIX x86_64 Kernel Module 378.13 Tue Feb 7 20:10:06 PST 2017
GCC version: gcc version 5.4.0 20160609 (Ubuntu 5.4.0-6ubuntu1~16.04.4)
我正在运行Ubuntu 16.04.2 LTS (Xenial Xerus)。
内核发行版是4.4.0-66-generic。
重新引导。
如果问题仍然存在:
sudo rmmod nvidia_drm
sudo rmmod nvidia_modeset
sudo rmmod nvidia
nvidia-smi
CentOS和Red Hat Enterprise Linux (RHEL)操作系统:
cd /boot
mv initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak
dracut -vf initramfs-$(uname -r).img $(uname -r)
Then
reboot
对于 Debian/Ubuntu：
update-initramfs -u
如果问题仍然存在:
apt install -y dkms && dkms install -m nvidia -v 440.82
将440.82更改为实际版本。
提示:获取Nvidia驱动程序版本:
ls /usr/src
您将找到Nvidia驱动程序目录，例如Nvidia -440.82。
此外，您可以删除所有Nvidia软件包并重新安装驱动程序:
apt purge nvidia*
apt purge *cuda*
# Check
apt list -i |grep nvidia
apt list -i |grep cuda
正如etal所说，重新启动可以解决这个问题，但我认为不重新启动的过程会有所帮助。
对于中文，请查看我的博客->中文版
错误消息
NVML:驱动程序/库版本不匹配
告诉我们Nvidia驱动内核模块(kmod)有一个错误的版本，所以我们应该卸载这个驱动程序，然后加载正确的kmod版本
我们怎么做呢?
首先，我们应该知道加载了哪些驱动程序。
lsmod | grep nvidia
你可能会得到
nvidia_uvm 634880 8
nvidia_drm 53248 0
nvidia_modeset 790528 1 nvidia_drm
nvidia 12312576 86 nvidia_modeset,nvidia_uvm
我们的最终目标是卸载nvidia mod，所以我们应该卸载依赖于nvidia的模块:
sudo rmmod nvidia_drm
sudo rmmod nvidia_modeset
sudo rmmod nvidia_uvm
然后，卸载英伟达
sudo rmmod nvidia
故障排除
如果你得到类似rmmod: error: Module nvidia is in use这样的错误，这表明内核模块正在被使用，你应该杀死使用kmod的进程:
sudo lsof /dev/nvidia*
然后终止那些进程，然后继续卸载kmods。
Test
确认您成功卸载了这些kmods
lsmod | grep nvidia
你什么也得不到。然后确认你可以加载正确的驱动程序:
nvidia-smi
您应该得到正确的输出。
重新引导。
如果问题仍然存在:
sudo rmmod nvidia_drm
sudo rmmod nvidia_modeset
sudo rmmod nvidia
nvidia-smi
CentOS和Red Hat Enterprise Linux (RHEL)操作系统:
cd /boot
mv initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak
dracut -vf initramfs-$(uname -r).img $(uname -r)
Then
reboot
对于 Debian/Ubuntu：
update-initramfs -u
如果问题仍然存在:
apt install -y dkms && dkms install -m nvidia -v 440.82
将440.82更改为实际版本。
提示:获取Nvidia驱动程序版本:
ls /usr/src
您将找到Nvidia驱动程序目录，例如Nvidia -440.82。
此外，您可以删除所有Nvidia软件包并重新安装驱动程序:
apt purge nvidia*
apt purge *cuda*
# Check
apt list -i |grep nvidia
apt list -i |grep cuda
我也遇到过同样的问题，我把我的解决方案贴在这里。
在我的例子中，NVRM版本为440.100，驱动程序版本为460.32.03。我的驱动程序是由sudo apt install caffe-cuda更新的，当时我没有注意到，但我从/var/log/apt/history.log中检查了它。
通过遵循我的NVRM版本，我只是使用sudo apt安装nvidia-driver-440，但它安装了450.102。我不知道为什么它安装了另一个版本，nvidia-smi显示为450.102.04。
总之，重启电脑后，一切都很好了。重新安装驱动程序后，我的CUDA仍然工作正常。
我没有删除/清除任何与Nvidia驱动程序相关的东西。运行sudo apt install nvidia-driver-440自动卸载460.32.03版本。
我必须重新启动内核并删除之前安装的所有包(在第一次安装期间)。请确保删除所有的包，即使在删除包后使用下面的命令:
sudo apt-get --purge remove "*nvidia*"
像“libtinfo6:i386”这样的包不会被删除。
我使用的是Ubuntu 20.04 (Focal Fossa)和Nvidia-driver-440。为此，您必须删除下图所示的所有包。
所有需要删除的包的列表:
如图所示，确保您正在安装的包的大小正确。Nvidia-driver-440的内存为207 MB。如果它更少，这意味着您还没有删除所有的包。
