/ taohigo.com / 0浏览

pytorch安裝 cuda版本總結

起因,我之前在2080ti上使用瞭pip安裝瞭pytorch1.9+cuda10.2,在2080ti上可以跑(2080ti上cuda版本為10.0),我將所有的環境直接使用scp原封不動挪到3090以後,跑不瞭瞭,報錯!具體報錯我忘瞭,總之是很離譜的報錯,好像是找不到對應的cuda還是啥

經過我大量資料查找和實驗,基本確定瞭一下

註意pytorch的cuda版本這個概念,理解這個概念很重要,pytorch的cuda版本是pytorch版本所可以使用的最高cuda版本,是可以高於服務器本地的cuda版本的

首先,安裝命令參考pytorch官網的命令,需要註意的是,pytorch官網選擇cuda版本的時候需要註意以下地方:

  1. 服務器本地的cuda版本的時候應該與gpu算力匹配。(算力有影響的,像是3090算力為8.6,必須裝cuda11以上的版本)。然後選擇的pytorch的cuda版本必須高於服務器本地的cuda版本。比如我之前在2080ti上使用瞭pip安裝瞭pytorch1.9+cuda10.2,在2080ti上可以跑(2080ti上cuda版本為10.0),我將所有的環境直接使用scp原封不動挪到3090就是因為3090本地的cuda版本是11.1,大於安裝的pytorch1.9+cuda10.2,所以會直接報錯!!!

2.服務器本地cuda版本應該與driver版本匹配,gpu driver版本通過nvidia-smi查看。這個因為大部分服務器本地都安裝有cuda,一般來說都是滿足的。這一點唯一要註意的就是(看底下)如果使用conda安裝的話,不會使用服務器本地的cudatoolkit。因此要註意conda 安裝的cudatoolkit版本號要與服務器中的driver版本匹配好,不能太高瞭

3.pytorch版本和pytorch的cuda版本不沖突,這個最簡單,隻要pytorch官網上存在對應的包,就不沖突,安裝就完事瞭。經過我的實驗,隻要pytorch的cuda版本稍微高於服務器本地環境的cuda版本是沒有問題的,可以正常跑的。

4. 服務器本地的cuda位置:在/usr/local/cuda有軟鏈接

5.關於nvidia-smi和nvcc -V顯示的cuda版本不一樣原因:

  • 第一是因為環境本地裝的cuda版本正確的應該是nvcc -V顯示的版本。nvcc在環境變量path中被定義,一般在/usr/local/cuda-10.0/bin這種。
  • nvidia-smi顯示的cuda版本是對應的driver版本所最高支持的cuda版本!!!也就是說,在第一步選cuda版本的時候你不可以選擇版本大於這裡顯示的,小於是可以的!

6.關於conda和pip安裝區別:

  • conda會安裝一個cudatoolkit,這是一個已經編譯完的各種可執行文件的集合庫,註意裡面並沒有gpu driver!!! conda裝的pytorch會直接調用這個cudatoolkit,而不使用服務器本地環境安裝的cuda。為什麼我這樣說呢,因為你conda uninstall cudatoolkit –force以後程序是跑不瞭的,會報錯。而直接conda uninstall cudatoolkit會刪除pytorch,torchvision這些包
  • 使用pip安裝pytorch以後不會給你安裝cudatoolkit,而是會使用服務器本地安裝好的cuda,因此需要保證pytorch的cuda版本號大於本地環境的cuda版本號,以便pytorch可以正常使用。經過我的驗證,使用pip安裝的時候pytorch版本號就算大於nvidia-smi版本號也沒關系,因為此時使用的還是服務器本地安裝的cuda。因此隻需要保證pytorch的cuda版本號大於服務器本地安裝cuda版本號即可。

7.驗證能夠正常使用:

import torch

torch.cuda.is_available()

x = torch.randn(2,3)

x.cuda()

  • 看版本號:
    • torch.version.cuda #查看pytorch的cuda版本號!!!!,通常可以比實際環境cuda版本大一些
    • import torch.utils.cpp_extension #通常跟nvcc -V顯示的版本一樣的 torch.utils.cpp_extension.CUDA_HOME 編譯c++的cuda程序時候使用的cuda位置

參考文獻:我覺得寫得非常好

marsggbo:顯卡,顯卡驅動,nvcc, cuda driver,cudatoolkit,cudnn到底是什麼?

Pytorch 使用不同版本的 cuda

圓周率、方周率、……周率?!
圓周率、方周率、……周率?!
瞭解區塊鏈虛擬機:EVM、HVM、WASM、MOVE
瞭解區塊鏈虛擬機:EVM、HVM、WASM、MOVE
本科碩士學年課程論文如何寫?幹貨來瞭快來收藏!
錢存放在餘額寶裡面,真的安全嗎?內行人說出答案
錢存放在餘額寶裡面,真的安全嗎?內行人說出答案
編碼日志 | 這些疾病該如何編碼?快來學習!
不小心刪除微信APP,重新安裝後聊天記錄怎麼恢復?
不小心刪除微信APP,重新安裝後聊天記錄怎麼恢復?

0

  1. This post has no comment yet

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注