[請益] 機器學習 Nvidia Tesla T4 or Quadro RTX

看板PC_Shopping作者 (入贅桧月家,我妻彩花)時間4年前 (2020/04/18 14:02), 4年前編輯推噓3(3016)
留言19則, 7人參與, 4年前最新討論串1/2 (看更多)
目前打算購入一台機架式伺服器,目標是HPE或Dell的2U型號,如HP DL380 G10的入門雙路配置 諮詢了業務代表,考慮到目前的PCI-e lanes的狀況, Tesla T4是可以插入七塊的,而Quadro RTX 8000因為預算的緣故,大概只能購入兩塊 Tesla T4是不支援NVlink的 不過Quadro RTX8000有一個問題,如果我想把兩塊配置到不同的CPU上,伺服器的PCIe托架是分開的,似乎沒有這種NVlink 可以把兩塊連起來? (以上都是Passive版,即低卡主動散熱無圖像輸出介面) 還是說靠PCI-e傳輸資料已經足夠了,不需要NVlink? 另外RTX Titan的價格似乎比較好,價格就比Tesla T4貴一點,可是記憶體大了非常多。不過就Driver狀況來講,運算速度會不會差很多? ----- Sent from JPTT on my Samsung SM-G8870. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 38.106.22.59 (美國) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1587189728.A.5C9.html

04/18 14:04, 4年前 , 1F
目前用Titan XP 和GTX1080倒是沒有出錯的問題
04/18 14:04, 1F

04/18 14:32, 4年前 , 2F
Titan肯定是CP值最高的
04/18 14:32, 2F

04/18 14:34, 4年前 , 3F
用tensor core選T4,用NVLink或雙精度選V100,
04/18 14:34, 3F
V100太貴又記憶體比RTX8000小

04/18 14:35, 4年前 , 4F
其他就RTX8000
04/18 14:35, 4F

04/18 14:36, 4年前 , 5F
但是Titan要三槽位很難插,只能找美超微定機器了?
04/18 14:36, 5F

04/18 14:53, 4年前 , 6F
apollo 6500
04/18 14:53, 6F
基礎伺服器想把價格壓低的,不然預算案過不了的,這個太貴了 ※ 編輯: hizuki (38.106.22.59 美國), 04/18/2020 15:18:20

04/18 17:49, 4年前 , 7F
如果你在乎記憶體和model size
04/18 17:49, 7F

04/18 17:49, 4年前 , 8F
不急的話跟Lambda Labs之類的公司用租的
04/18 17:49, 8F

04/18 17:49, 4年前 , 9F
然後等下一代,越來越多謠言說下一代的記憶體有可能
04/18 17:49, 9F

04/18 17:49, 4年前 , 10F
提升超過兩倍
04/18 17:49, 10F

04/18 17:51, 4年前 , 11F
貴司要train大型model又要雙精度,很急的話也只能捏
04/18 17:51, 11F

04/18 17:51, 4年前 , 12F
下去RTX8000
04/18 17:51, 12F
雙精度應該沒需求

04/18 19:03, 4年前 , 13F
nv有些卡吃超過64 GB有夠可怕
04/18 19:03, 13F

04/19 00:20, 4年前 , 14F
Titan rtx 只占用雙槽,不會卡到第三槽。
04/19 00:20, 14F
散熱器會突來一點

04/19 01:58, 4年前 , 15F
Quadro 不是繪圖卡嗎?另外,機器學習很少用雙精度
04/19 01:58, 15F

04/19 01:58, 4年前 , 16F
吧。如果是我會選 Tesla
04/19 01:58, 16F
Quadro確實有沒有輸出的型號,但是Tesala T4的記憶體太小了是一個問題 ※ 編輯: hizuki (38.106.22.59 美國), 04/20/2020 02:07:46

04/21 10:20, 4年前 , 17F
我晚點裝看看,我記得是不會卡到阿?
04/21 10:20, 17F

04/21 10:45, 4年前 , 18F
是裝的下拉,不過多卡時,散熱就很緊
04/21 10:45, 18F

04/21 10:45, 4年前 , 19F
文章代碼(AID): #1UcfVWN9 (PC_Shopping)
文章代碼(AID): #1UcfVWN9 (PC_Shopping)