近期購(gòu)買(mǎi)顯卡建議
最近淘了一張A4000顯卡（大家都說(shuō)是個(gè)人深度學(xué)習(xí)神卡），聯(lián)想拆機(jī)，有綁定的主機(jī)服務(wù)碼，和賣(mài)家確認(rèn)了是今年6月份出廠(chǎng)的，問(wèn)了京東客服可以憑借原主人購(gòu)買(mǎi)訂單去送保，價(jià)格3600，差不多吧。
因?yàn)锳4000卡默認(rèn)是單風(fēng)扇渦輪散熱，默載36度，滿(mǎn)載88度將近90度了。
于是拿回來(lái)直接改了散熱，打算自己用個(gè)幾年：
改好散熱后默載32度，滿(mǎn)載不超80度（可能與我機(jī)箱比較緊湊有關(guān)系），還可以。
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 520.56.06 Driver Version: 520.56.06 CUDA Version: 11.8 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA RTX A4000 Off | 00000000:01:00.0 Off | Off |
| 41% 32C P8 16W / 140W | 10MiB / 16376MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| 0 N/A N/A 1247 G /usr/lib/xorg/Xorg 4MiB |
| 0 N/A N/A 2183 G /usr/lib/xorg/Xorg 4MiB |
+-----------------------------------------------------------------------------+
A4000是專(zhuān)業(yè)卡不是游戲卡，一般來(lái)說(shuō)是用于制圖CAD等，但其實(shí)這張卡對(duì)于深度學(xué)習(xí)來(lái)說(shuō)也是神卡，核心數(shù)量和3070TI一致，但是因?yàn)轭l率限制（最高功率140w），所以性能介于臺(tái)式機(jī)3070和3080之間，不過(guò)顯存是16G，很適合搞模型。
同時(shí)也看下Pytorch性能training測(cè)試：
我測(cè)試了下，性能比我幻13的3080拓展塢略高一點(diǎn)（筆記本3080的TGP在40-150W動(dòng)態(tài)浮動(dòng)，這張A4000固定140W），除此之外配置和筆記本的3080幾乎一樣，核心也一樣，顯存大小也一樣?？梢园袮4000看成筆記本版的3080。
搞深度學(xué)習(xí)的，不用說(shuō)顯存很重要，16G的顯存跑最近比較火的Stable Diffusion也沒(méi)有任何問(wèn)題，訓(xùn)練的時(shí)候batch size也可以設(shè)的大一點(diǎn)。建議最近配顯卡的，如果想要大顯存又不想花很多錢(qián)，又想體驗(yàn)比較新的安培架構(gòu)，A4000最合適不過(guò)了。
顯卡價(jià)格
因?yàn)榈V難，以及雙11，以及經(jīng)濟(jì)下行，以及40系顯卡出來(lái)了，近期的顯卡價(jià)格個(gè)人認(rèn)為還是挺合適的。
就拿我買(mǎi)的A4000專(zhuān)業(yè)卡來(lái)說(shuō)，去年9月份的時(shí)候賣(mài)7000-8000?，F(xiàn)在，11月份左右，搜了下小黃魚(yú)、淘寶和京東：
小黃魚(yú)3300-6000不等，盒裝未拆封最貴、拆機(jī)IDC機(jī)房鍛煉過(guò)的最便宜 淘寶也有很多全新拆機(jī)顯卡，4300-5600不等，有工包、有盒裝 京東就比較貴了5000-6400的都有，全新未拆封，盒裝，也有工包
30系顯卡默認(rèn)礦，這點(diǎn)沒(méi)問(wèn)題。
閑魚(yú)上很多商家也直接說(shuō)明自己的是礦，什么IDC機(jī)房跑了幾個(gè)月，這里就是礦卡，不建議買(mǎi)，除非店家提供質(zhì)保和換新服務(wù)可以試試。
個(gè)人賣(mài)的也有挖過(guò)的，但是相比專(zhuān)業(yè)的挖礦，可能個(gè)人玩家保護(hù)的更好一些，顯存頻率不敢超太多，偶爾挖一挖，這些也是能買(mǎi)的。
因?yàn)槲易约号涞氖谴鳡柕纳虡I(yè)機(jī)，所以也看了很多戴爾拆機(jī)顯卡，真的是多，這些拆機(jī)顯卡，要看顯卡上有沒(méi)有貼著戴爾的服務(wù)碼，以及SN碼，有服務(wù)碼就可以根據(jù)服務(wù)碼查到當(dāng)前綁定主機(jī)的信息，出廠(chǎng)保修信息都有，一般有服務(wù)碼可以查到的問(wèn)題不大。
知乎上有篇不錯(cuò)的帖子，介紹如何查詢(xún)大部分顯卡的SN碼：
https://zhuanlan.zhihu.com/p/427166841
性?xún)r(jià)比爆表的3080-16G筆記本
想起我之前為了幻13買(mǎi)的ROG-3080顯卡塢，性能雖然因?yàn)楣δ茏罡?50w，比桌面端的3070TI要弱，但是因?yàn)?6G的顯存，深度學(xué)習(xí)方面很多地方都受益。
10月底那會(huì)就看到一款性?xún)r(jià)比非常高的筆記本，拯救者R9000K，配置3080-16G、內(nèi)存32G、1T固態(tài)，屏幕也不錯(cuò)2.5K。
然后做活動(dòng)竟然只賣(mài)9999。如果不是那會(huì)配了主機(jī)了，要不然說(shuō)不定真的搞一臺(tái)...有好幾次就差點(diǎn)下單想買(mǎi)了，買(mǎi)回來(lái)當(dāng)個(gè)筆記本服務(wù)器玩玩（不用這個(gè)打游戲，有steam deck，可能有點(diǎn)浪費(fèi)這個(gè)屏幕）。
一開(kāi)始需要付定金200才能購(gòu)買(mǎi)，中間有幾天斷貨，后來(lái)11月剛開(kāi)始又放貨了可以直接購(gòu)買(mǎi)，這幾天又?jǐn)嘭浟?，但時(shí)不時(shí)會(huì)放貨，感興趣的可以關(guān)注下。
說(shuō)實(shí)話(huà)很值，雖然買(mǎi)這款主要都是臭打游戲的買(mǎi)，但是跑深度學(xué)習(xí)模型也超級(jí)合適，畢竟16g的顯存放那兒了。
唯一的弱點(diǎn)就是CPU比較弱，高顯低U。相較i5-12500要差一些，比i7-12代就**差了30、40%**了。不過(guò)這個(gè)CPU對(duì)打游戲影響比較大，深度學(xué)習(xí)來(lái)說(shuō)，CPU只做數(shù)據(jù)的讀取，瓶頸主要是帶寬，GPU做運(yùn)算最重要，CPU性能影響不大，可以放心的買(mǎi)。
只是不知道雙11當(dāng)天會(huì)不會(huì)更便宜呢。
買(mǎi)顯卡建議
其實(shí)也有想過(guò)要不要買(mǎi)3090-24G卡，但是電源配的是500W，不夠3090用了。
機(jī)箱比較小，主板是8PIN輸入的，換不了大電源，也不想雙電源（需要電源同步，而且第二電源需要放到外頭，不美觀(guān)），算了不折騰了。
3090現(xiàn)在全新的價(jià)格就是6000-8000左右，閑魚(yú)上也有很多拆機(jī)卡，公版的，適合比較小的機(jī)箱，個(gè)人覺(jué)得如果5000-6000左右搞一個(gè)新點(diǎn)的3090也沒(méi)啥問(wèn)題。24G顯存足夠做很多事兒了。另外安培架構(gòu)也不老，最新的40系列我覺(jué)得可以等等再上。
當(dāng)然有錢(qián)還是直接上4090，如果搶不到4090的顯卡，直接買(mǎi)整機(jī)也OK：
只不過(guò)4090我暫時(shí)不打算換了，一是家里玩意兒太多，玩不過(guò)來(lái)；二是30系列的特性都沒(méi)參透，40系列更復(fù)雜的架構(gòu)，看不懂了看不懂了。
另外，很多推理庫(kù)目前對(duì)安培架構(gòu)的支持比較好（比如CUTLASS、AItemplate），夠玩一陣子。
近期我推薦的先就是A4000（16g）或者3090（24g），或者3060（12g）也可以，重要就是大顯存！
你要說(shuō)A4500、A5000、A6000，這三個(gè)專(zhuān)業(yè)卡就貴的離譜了，A5000顯存性能和3090差不多，但是比3090要貴1000、2000左右。主要專(zhuān)業(yè)卡受眾比較小，相對(duì)來(lái)說(shuō)更貴些，附帶的ECC顯存，如果不是做大量的數(shù)值計(jì)算（一個(gè)月那種），普通的深度學(xué)習(xí)訓(xùn)練也不需要這個(gè)。