顯卡RTX4090購(gòu)買(mǎi)和深度學(xué)習(xí)配置，最后用Mac遠(yuǎn)程登錄

小米搞機(jī)員

原文參考鏈接：
本文主要內(nèi)容：

• 硬件參考（哪里省錢(qián)，哪里不要省）
  
• Win10+RTX4090深度學(xué)習(xí)環(huán)境配置
  
• Mac遠(yuǎn)程聯(lián)機(jī)Windows（ssh、APP）
  

這兩天買(mǎi)了一張RTX4090的顯卡，就在以前的主機(jī)上安裝和配置了一下，把過(guò)程記錄下來(lái)，有需要的人可以參考一下，先上一個(gè)成品圖：

登錄/注冊(cè)后可看大圖

Part1 硬件選購(gòu)

主機(jī)是2020年買(mǎi)的，可以根據(jù)需要買(mǎi)更高配的。

登錄/注冊(cè)后可看大圖

本次要更換的就是紅框中的三個(gè)，顯卡、內(nèi)存、電源，其他的都還能用。
1、 硬件該怎么選？

這個(gè)我朋友也給了我很多的參考建議，包括各個(gè)硬件都換一遍如何選，也參考了知乎@良睦路程序員[1]的回答。
為了不花冤枉錢(qián)還能達(dá)到目標(biāo)，我就換了這三個(gè) ：

登錄/注冊(cè)后可看大圖

顯卡，我建議買(mǎi)品牌的

登錄/注冊(cè)后可看大圖

想換4090 24G顯卡，電源肯定要跟上（換成了1000w以上），內(nèi)存原來(lái)16G也是短板，這次換成32G的。機(jī)箱能放得下顯卡（長(zhǎng)度要注意） 。
內(nèi)存要分清楚主機(jī)上支持DDR4還是DDR5哈：
電源1kw以上即可，我用的長(zhǎng)城的：
這里也收集了一些顯卡的參數(shù)對(duì)比，僅供參考。 渦輪卡一些參數(shù)：

登錄/注冊(cè)后可看大圖

公版卡參數(shù)（難買(mǎi)到）：

登錄/注冊(cè)后可看大圖

2 如何買(mǎi)？

顯卡畢竟很貴，最擔(dān)心是買(mǎi)到礦卡，我朋友建議的品牌：影馳、技嘉、微星，不著急可以等活動(dòng)省大幾百塊。
不要去二手店、組裝店之類(lèi)的，很可能會(huì)買(mǎi)到二手卡。
同一品牌下的同一款卡，還會(huì)配不同套裝，比如水冷、RGB燈之類(lèi)的，根據(jù)自己喜好和預(yù)算選一個(gè)即可。
Part2 、深度學(xué)習(xí)環(huán)境配置

我們拆機(jī)組裝好后【如果不知道如何裝機(jī)，自行搜視頻看哈】，就開(kāi)始安裝一些軟件了。

• 如何看顯卡安裝成功？
  

在設(shè)備管理器中可以查看：

登錄/注冊(cè)后可看大圖

3、顯卡驅(qū)動(dòng)安裝：

要在Windows上使用4090做模型訓(xùn)練，一方面要下載顯卡驅(qū)動(dòng)[2]：https://www.nvidia.cn/geforce/drivers/，另外要訓(xùn)練神經(jīng)網(wǎng)絡(luò)我們要安裝CUDAtoolkit和cuDNN。
如圖：

登錄/注冊(cè)后可看大圖

根據(jù)自己的系統(tǒng)和顯卡型號(hào)搜索一下即可。
經(jīng)驗(yàn)告訴我不要使用最新的版本，dddd(懂的都懂)。4090顯卡需要“驅(qū)動(dòng)程序版本: 526.98 - 發(fā)行日期: 2022-11-16”及以上。
下載后，根據(jù)推薦一路點(diǎn)下去安裝。不用管界面顯示哪個(gè)路徑，那個(gè)是臨時(shí)的，最終會(huì)自動(dòng)刪除，并最終安裝在默認(rèn)路徑：
C盤(pán)的 NVIDIA Corporation
C盤(pán)的 NVIDIA GPU Computing Toolkit
這時(shí)候，可以打開(kāi)終端（win + R 快捷鍵），輸入cmd，終端輸入 nvidia-smi 查看：

登錄/注冊(cè)后可看大圖

這里哪怕是12.x版本也沒(méi)事，我們可以使用conda管理我們的項(xiàng)目環(huán)境，只需要那里的cudatoolkit和cudnn版本一致即可。原因下文有解釋。
4 cudatoolkit和cudnn 安裝

也可以單獨(dú)再下載 11.8版本的cudatoolkit[3]和對(duì)應(yīng)的cuDNN[4]： https://developer.nvidia.com/cuda-toolkit-archive
https://developer.nvidia.com/rdp/cudnn-download
一路點(diǎn)擊安裝即可。

登錄/注冊(cè)后可看大圖

cuDNN的下載需要注冊(cè)，挺麻煩，11.8版本的我上傳到網(wǎng)盤(pán)了，文末可以獲取連接哈。
下載后解壓，對(duì)應(yīng)目錄的文件，復(fù)制到剛剛安裝cuda toolkit同名文件夾下即可。

• 在終端輸入 nvcc -V
  

登錄/注冊(cè)后可看大圖

如果沒(méi)有正常顯示，可以查看系統(tǒng)環(huán)境變量：
**win+i快捷鍵** 打開(kāi)配置，
依次點(diǎn)擊"系統(tǒng)"、"關(guān)于"、"高級(jí)系統(tǒng)設(shè)置"就能打開(kāi)系統(tǒng)屬性，
在“高級(jí)”下點(diǎn)擊“環(huán)境變量N”，
在系統(tǒng)變量中找到path并雙擊。
以下如果沒(méi)有就添加：
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\libnvvp

• nvcc版本和nvidia-smi 版本不一致： 雖然nvcc 是11.8版本，nvidia-smi顯示的是12版本，并不沖突，因?yàn)椋?br />

nvcc 屬于CUDA的編譯器，將程序編譯成可執(zhí)行的二進(jìn)制文件，nvidia-smi 全稱(chēng)是 NVIDIA System Management Interface ，是一種命令行工具，幫助管理和監(jiān)控NVIDIA GPU設(shè)備的。
nvcc是與CUDA Toolkit一起安裝的CUDA compiler-driver tool，它只知道自身構(gòu)建時(shí)的CUDA runtime版本，并不知道安裝了什么版本的GPU driver。
5 conda環(huán)境管理

Python項(xiàng)目環(huán)境依賴(lài)的版本讓人很不好搞，對(duì)于不同cuda版本依賴(lài)，我們可以使用conda創(chuàng)建新環(huán)境，并安裝對(duì)應(yīng)的版本。 之前也寫(xiě)了一篇conda環(huán)境管理的文章。
conda install  -c conda-forge cudatoolkit=11.8
conda install -c conda-forge cudnn
conda會(huì)自動(dòng)給匹配合適的對(duì)應(yīng)版本。
哪怕本機(jī)部署Docker鏡像，根據(jù)版本拉取hub中的鏡像即可，例如：
docker pull pytorch/pytorch:1.13.1-cuda11.6-cudnn8-runtime
Part3 Mac 遠(yuǎn)程連接

Mac上可以遠(yuǎn)程ssh登錄Win電腦，也可以使用相關(guān)軟件，我用的Microsoft Remote Desktop，國(guó)內(nèi)的APP store可能不可以下載，我這里放在了網(wǎng)盤(pán)，見(jiàn)文末。
這樣，主機(jī)打開(kāi)，不需要額外顯示器，而且可以Mac OS 和Windows系統(tǒng)無(wú)縫切換。
1、安裝 openssh 可以通過(guò)系統(tǒng)設(shè)置安裝：
https://learn.microsoft.com/zh-cn/windows-server/administration/openssh/openssh_install_firstuse?source=recommendations
也可以通過(guò)powerShell安裝。
Windows系統(tǒng)左下角的系統(tǒng)按鈕，右鍵找到“命令提示符（管理員）”，全程需要管理員權(quán)限的哦。
# 安裝OpenSSH客戶(hù)端
Add-WindowsCapability -Online -Name OpenSSH.Client~~~~0.0.1.0

#安裝OpenSSH服務(wù)端
Add-WindowsCapability -Online -Name OpenSSH.Server~~~~0.0.1.0
驗(yàn)證是否安裝成功： 輸入
Get-WindowsCapability -Online | ? Name -like 'OpenSSH*'
返回installed狀態(tài)即可：

登錄/注冊(cè)后可看大圖

2、啟動(dòng)SSH服務(wù)器
# 啟動(dòng)sshd服務(wù)
Start-Service sshd

# 將sshd服務(wù)設(shè)置為自動(dòng)啟動(dòng)，若不設(shè)置需要在每次重啟后重新開(kāi)啟sshd
Set-Service -Name sshd -StartupType 'Automatic'

# 確認(rèn)防火墻規(guī)則，一般在安裝時(shí)會(huì)配置好
Get-NetFirewallRule -Name *ssh*

# 若安裝時(shí)未添加防火墻規(guī)則"OpenSSH-Server-In-TCP"，則通過(guò)以下命令添加
New-NetFirewallRule -Name sshd -DisplayName 'OpenSSH Server (sshd)' -Enabled True -Direction Inbound -Protocol TCP -Action Allow -LocalPort 22
3、開(kāi)啟密鑰登錄
ssh-keygen -t ed25519
如果走默認(rèn)就一直回車(chē)，也可以自己定義路徑和文件名，默認(rèn)在： C:\Users\你的用戶(hù)名.ssh\id_ed25519 對(duì)應(yīng)的還有個(gè)公鑰 id_ed25519.pub
我的這里加了個(gè)后綴，和其他文件區(qū)分開(kāi)來(lái)。

登錄/注冊(cè)后可看大圖

我們將公鑰.pub文件復(fù)制放到Mac系統(tǒng)下 .ssh文件下

登錄/注冊(cè)后可看大圖

• SSH登錄：
  

在Windows電腦的命令行中輸入 ipconfig 查看 ipv4地址 在Mac終端輸入：
ssh win用戶(hù)名@剛剛查看的ip地址

登錄/注冊(cè)后可看大圖

在終端操作需要熟悉Windows中的一些命令。

• APP登錄： Microsoft Remote Desktop
  

軟件和本次的驅(qū)動(dòng)、cuda我都上傳到網(wǎng)盤(pán)了。從網(wǎng)盤(pán)下載安裝即可。
登錄界面：

登錄/注冊(cè)后可看大圖

配置也簡(jiǎn)單： 在“add user account”中添加Windows主機(jī)的登錄賬密，保存下次就直接點(diǎn)擊鏈接了。

登錄/注冊(cè)后可看大圖

6 其他連接方式：

如開(kāi)頭顯示，我用了投影儀顯示主機(jī)內(nèi)容，一個(gè)投影儀和一個(gè)顯示器也差不多的價(jià)格，但投影儀聯(lián)網(wǎng)還能看視頻看電影（家庭影院），屏幕和電視都是固定大小的屏幕。
一根HDMI線(xiàn)，一頭連接投影儀，一頭連接顯卡上的HDMI口就可以了，投影界面的設(shè)置中，將信號(hào)源切換為HDMI即可。
END
本次分享就到這里了，Windows環(huán)境下基于RTX4090顯卡安裝深度學(xué)習(xí)環(huán)境的基本流程，Mac遠(yuǎn)程連接Windows主機(jī)、投影儀連接主機(jī)的相關(guān)圖文教程。
所有文件的百度云盤(pán)鏈接需要的留言哈
參考資料

[1]
知乎@良睦路程序員: https://www.zhihu.com/question/586361676/answer/2913703371
[2]
顯卡驅(qū)動(dòng): https://www.nvidia.cn/geforce/drivers/
[3]
cudatoolkit: https://developer.nvidia.com/cuda-toolkit-archive
[4]
cuDNN: https://developer.nvidia.com/rdp/cudnn-download

-----------------------------