[菜單] 200k 左右 Deep Learning 工作站

看板PC_Shopping作者 (henrychang81)時間2年前 (2022/02/08 05:38), 編輯推噓31(31推 0噓 61→)
留言92則, 37人參與, 2年前最新討論串1/1
已買/未買/已付訂金（元）： 未買 預算/用途： 200k左右 / 工作用 Deep Learning 工作站 CPU (中央處理器)：Intel i7-12700K【12核/20緒】3.6G $ 12800 MB (主機板)：華擎 Z690 Taichi 太極(ATX/1H2T) $ 16900 RAM (記憶體)：芝奇G.SKILL幻鋒戟RGB 16*2 D5-5600 CL36銀 $ 11190 VGA (顯示卡)：技嘉 AORUS RTX 3090 XTERME 24G (31.9cm) *2 $127980 Cooler (散熱器)：貓頭鷹 NH-D15S chromax.black 高16cm $ 3665 SSD (固態硬碟)：Samsung 980 PRO 1TB NVMe Gen4/M.2 PCIe $ 5288 Samsung 870 QVO 4TB/2.5吋 $ 10990 HDD (硬碟)：無 PSU (電源供應器)：全漢 CANNON PRO 2000W 雙8/全模 $ 13900 CHASSIS (機殼)：Fractal Design Define 7 黑 顯卡長46.7/CPU高18.5 $ 5590 MONITOR (螢幕)：無 Mouse/KB (鼠鍵)：無 OS (作業系統)：Ubuntu 18.04 LTS / Ubuntu 20.04 LTS 其它 (機殼風扇)：貓頭鷹 Noctua NF-A12x25 PWM chromax.black.swap $ 1225 ARCTIC P12 PWM 12公分聚流控制風扇 *6 $ 2100 總價 (未稅/含稅)： $211718 因為工作上的需要，老闆要我開一張200k左右的單子給他(公費) 目前預計會跑 CNN/RNN 的 model，也會用到 CUDA 加速 關於這張單有一些問題想請教電蝦版的版友 <(_ _)> 1.CPU部分，有稍微在版上搜索一下Deep Learning 關鍵字的菜單，看到有些人會建議拿 i9-9900k的CPU，有點好奇Deep Learning 應該都用GPU來訓練，目標把 GPU core 和 GRAM 拉到頂來加速訓練，而CPU的部分應該拿個i7或i5等級的就夠了，為什麼會建議拿i9等級 的呢? 2.關於power的部分，CPU TDP 為125w，顯示卡1張 TDP 435w，2張就870w MB、RAM、SSD 等估算50w左右 看到power 要拿 「TDP加總後乘以2」的規格 經計算 (125w + 870w + 50w)*2 = 2090w 而台灣目前有2000w 規格的 power 只有全漢 Cooler Master 2000w 只有印度有供貨，振華2000w 經洽詢則未在台灣銷售 感覺power方面有點緊繃，想請問power方面該如何配置比較好? 或是考慮購買機架式工作站? 3.承上，顯示卡的部分，配置2張目的是為了加快訓練，或是下不同的hyper parameter 同時訓練2個model，這部份希望能維持2張顯示卡。 另外也想請教顯示卡拿FE 或是一般市售版本是否在訓練上有所差異? 4. 硬碟的部分，目前規劃980 PRO 1TB (M2 SSD)當系統碟，870 QVO 4TB (SATA SSD)當 資料碟，存放dataset，請問這部分是否有需要更動的地方? 以上 謝謝電蝦版 <(_ _)> 注意1：自稱小妹或會透露自己性別的舉動要注意可能會引來不必要的紛擾，請注意。 注意2：標題是否有寫明"預算"、"用途"? 沒有請按Ctrl+x 然後按T改標題 注意3：請多加利用線上估價系統來進行估價以及價格查詢 (僅供參考) 注意4：若遇新品問題請勿發除錯文，請直接回原購買處處理。 ※ 禁止任何估價系統的連結、單號、網址數字等等。 ※ 相關包含手寫、excel、估價系統的擷圖連結。 ※ 購買套裝電腦者，發文及回應請自行打上原廠產品型號。 ※ 請勿張貼包含yahoo、pchome、udn、momo、autobuy、燦坤、三井、順發、良興等 國內網路通路連結。請以文字敘述。 ※ 以上只限制於本板相關物品，有爭議者由板務認定。 菜單文與情報文，禁止任何估價系統連結與擷圖、包含文字估價單號碼。 (參閱板規1-2-3、1-3-9) 違反者:刪文、水桶十日。 注意5：為保障您的權益，購物消費請索取統一發票，並盡量以含稅價取貨 注意6：若有任何問題請先洽詢板務。 --
推
11/29 23:47,
樓上RFG認證的帥哥
11/29 23:47
→
11/29 23:47,
幹 插屁
11/29 23:47
→
11/29 23:47,
樓下才是開實況把妹的juzam
11/29 23:47
→
11/29 23:48,
樓上變態
11/29 23:48
→
11/29 23:49,
樓下才是變態
11/29 23:49
→ acer5738G: 不對 樓上才是 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.243.37.99 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1644269897.A.D2F.html
推
02/08 05:57, 2年前 , 1F
現在用雲端計算平台不會比較划算嗎?
02/08 05:57, 1F
推
02/08 06:07, 2年前 , 2F
XTERME厚度四個卡槽，就算插的進去
02/08 06:07, 2F
→
02/08 06:07, 2年前 , 3F
兩張貼著散熱應該也不太好
02/08 06:07, 3F
推
02/08 06:14, 2年前 , 4F
你應該要用ubuntu吧，你確定12代支
02/08 06:14, 4F
→
02/08 06:14, 2年前 , 5F
援沒問題？
02/08 06:14, 5F
推
02/08 06:16, 2年前 , 6F
而且你的記憶體太小了，資料前處理
02/08 06:16, 6F
→
02/08 06:16, 2年前 , 7F
很容易爆記憶體
02/08 06:16, 7F
推
02/08 06:18, 2年前 , 8F
32g記憶體你可能要load dataset都
02/08 06:18, 8F
→
02/08 06:18, 2年前 , 9F
不夠
02/08 06:18, 9F
推
02/08 06:33, 2年前 , 10F
CPU影響不大吧，我以前實驗室那爛U
02/08 06:33, 10F
→
02/08 06:34, 2年前 , 11F
都照跑了，RAM拿大一點倒是，電供
02/08 06:34, 11F
→
02/08 06:34, 2年前 , 12F
我覺得不超頻1300W夠了，怕的話可以
02/08 06:34, 12F
→
02/08 06:35, 2年前 , 13F
降點壓
02/08 06:35, 13F
推
02/08 07:17, 2年前 , 14F
還有nvlink要另外買吧
02/08 07:17, 14F
→
02/08 08:03, 2年前 , 15F
雲端很盤
02/08 08:03, 15F
→
02/08 08:04, 2年前 , 16F
RAM 插到64 or 128
02/08 08:04, 16F
→
02/08 08:20, 2年前 , 17F
有點懷疑店家會甘願給組1CPU+2GPU..
02/08 08:20, 17F
→
02/08 08:21, 2年前 , 18F
的確, RAM 還是該比 VRAM 多.
02/08 08:21, 18F
→
02/08 08:33, 2年前 , 19F
雲端是乍看很盤,實際上維運成本不低
02/08 08:33, 19F
→
02/08 08:34, 2年前 , 20F
1300w就夠了 誰跟你x2
02/08 08:34, 20F
→
02/08 08:34, 2年前 , 21F
把雲端服務維運視為理所當然很危險.
02/08 08:34, 21F
→
02/08 08:35, 2年前 , 22F
顯卡沒差吧 都同個晶片
02/08 08:35, 22F
推
02/08 08:36, 2年前 , 23F
1500W就夠了 記憶體太少了 128GB請
02/08 08:36, 23F
→
02/08 08:36, 2年前 , 24F
插滿
02/08 08:36, 24F
推
02/08 08:46, 2年前 , 25F
DL我不太熟 有需要用到DDR5嗎?
02/08 08:46, 25F
→
02/08 08:47, 2年前 , 26F
不用nvlink
02/08 08:47, 26F
推
02/08 09:06, 2年前 , 27F
我之前閒著沒事去搜尋了一下現在
02/08 09:06, 27F
→
02/08 09:06, 2年前 , 28F
深度學習運算在 on-premise 和
02/08 09:06, 28F
→
02/08 09:07, 2年前 , 29F
雲端服務 的差異
02/08 09:07, 29F
→
02/08 09:07, 2年前 , 30F
感覺很多文章都認為雲端服務較便宜
02/08 09:07, 30F
推
02/08 09:35, 2年前 , 31F
CPU的問題是有預算就上去i9，沒預
02/08 09:35, 31F
→
02/08 09:35, 2年前 , 32F
算依你的想法也不算錯。
02/08 09:35, 32F
推
02/08 09:35, 2年前 , 33F
中小工作站用雲端便宜，大工作站還
02/08 09:35, 33F
→
02/08 09:35, 2年前 , 34F
在用雲端就不划算了
02/08 09:35, 34F
→
02/08 09:38, 2年前 , 35F
分開train不用link吧
02/08 09:38, 35F
推
02/08 09:44, 2年前 , 36F
電供怕的話，可以買兩顆1000w的作
02/08 09:44, 36F
→
02/08 09:44, 2年前 , 37F
聯動，不用買單顆2000w的
02/08 09:44, 37F
→
02/08 09:53, 2年前 , 38F
兩張塞機殼超燙 記得放機房
02/08 09:53, 38F
推
02/08 10:10, 2年前 , 39F
工作站我覺得I9安全一些
02/08 10:10, 39F
推
02/08 10:12, 2年前 , 40F
別用這電源
02/08 10:12, 40F
推
02/08 10:29, 2年前 , 41F
話說怎麼會想上DDR5?
02/08 10:29, 41F
→
02/08 10:31, 2年前 , 42F
大量運算的話雲端服務是真的頗貴
02/08 10:31, 42F
→
02/08 10:31, 2年前 , 43F
偶爾算/算量小CP值的確有出來
02/08 10:31, 43F
推
02/08 10:48, 2年前 , 44F
我們Lab之前用9900K + 雙3090，會
02/08 10:48, 44F
→
02/08 10:48, 2年前 , 45F
出現太擠3090散熱不良的狀況，你可
02/08 10:48, 45F
→
02/08 10:49, 2年前 , 46F
能要注意一下這個問題，烤甜甜圈沒
02/08 10:49, 46F
→
02/08 10:49, 2年前 , 47F
兩分鐘擋到散熱那一張卡溫度會飛上
02/08 10:49, 47F
→
02/08 10:49, 2年前 , 48F
去
02/08 10:49, 48F
推
02/08 10:53, 2年前 , 49F
主機板換技嘉 Z690 Aero D
02/08 10:53, 49F
→
02/08 10:53, 2年前 , 50F
PCIE 間隔4 slots
02/08 10:53, 50F
→
02/08 10:56, 2年前 , 51F
直接連絡研華凌華業務報價就好
02/08 10:56, 51F
→
02/08 10:57, 2年前 , 52F
沒事自組工作站幹嘛
02/08 10:57, 52F
推
02/08 11:13, 2年前 , 53F
你們有機房 有現成的機架的話 建議
02/08 11:13, 53F
→
02/08 11:13, 2年前 , 54F
直接組機架式的 然後一樣ram請插滿
02/08 11:13, 54F
→
02/08 11:13, 2年前 , 55F
ssd容量取決於你們dataset大小
02/08 11:13, 55F
推
02/08 11:28, 2年前 , 56F
我跑ML, DL都用128g來跑
02/08 11:28, 56F
推
02/08 11:54, 2年前 , 57F
這價格直接找廠商吧 不要為了省小錢
02/08 11:54, 57F
→
02/08 11:54, 2年前 , 58F
到時候故障叫你自己想辦法
02/08 11:54, 58F
推
02/08 12:39, 2年前 , 59F
#1SxhRJ80 建議參考前輩的文，另外
02/08 12:39, 59F
→
02/08 12:39, 2年前 , 60F
個人經驗是，在RNN/LSTM情況下GPU沒
02/08 12:39, 60F
→
02/08 12:39, 2年前 , 61F
辦法幫你太多，主要loading還是在CP
02/08 12:39, 61F
→
02/08 12:39, 2年前 , 62F
U上，所以挑i9的高頻cpu有其必要性
02/08 12:39, 62F
→
02/08 12:39, 2年前 , 63F
，再者對非gpu類的函式庫的加速也有
02/08 12:39, 63F
→
02/08 12:39, 2年前 , 64F
幫助。
02/08 12:39, 64F
→
02/08 12:39, 2年前 , 65F
機殼部分實際使用過10900K+3090配FD
02/08 12:39, 65F
→
02/08 12:39, 2年前 , 66F
define 7，實際訓練時GPU溫度大概
02/08 12:39, 66F
→
02/08 12:39, 2年前 , 67F
是85~90度，雙卡的情況可以想像一下
02/08 12:39, 67F
→
02/08 12:39, 2年前 , 68F
。
02/08 12:39, 68F
→
02/08 12:39, 2年前 , 69F
另外CPU部分是否真的要使用大小核也
02/08 12:39, 69F
→
02/08 12:39, 2年前 , 70F
是個考量點，個人會建議使用全大核
02/08 12:39, 70F
→
02/08 12:39, 2年前 , 71F
，減少可能的問題點。
02/08 12:39, 71F
推
02/08 12:57, 2年前 , 72F
AMD Ryzen Threadripper 3970X
02/08 12:57, 72F
推
02/08 13:01, 2年前 , 73F
你老闆工作站還要用到RGB…真潮
02/08 13:01, 73F
→
02/08 14:06, 2年前 , 74F
PSU要TDP加總後乘以2 是看了什麼鬼
02/08 14:06, 74F
推
02/08 16:46, 2年前 , 75F
D5有ECC
02/08 16:46, 75F
推
02/08 21:50, 2年前 , 76F
多卡需要 HEDT 以上的板子開滿 pcie
02/08 21:50, 76F
→
02/08 21:51, 2年前 , 77F
直接找套裝的吧，不然 TR 都更好
02/08 21:51, 77F
→
02/08 21:53, 2年前 , 78F
另外 AWS 很容易開
02/08 21:53, 78F
推
02/08 23:39, 2年前 , 79F
找研華就好
02/08 23:39, 79F
推
02/09 00:46, 2年前 , 80F
QLC嘛..要不要換成兩個2T MX500?
02/09 00:46, 80F
→
02/09 10:57, 2年前 , 81F
20萬找廠商的規格遠比DIY市場弱一半
02/09 10:57, 81F
→
02/09 13:39, 2年前 , 82F
但是出問題就換自己變一半了
02/09 13:39, 82F
推
02/09 21:48, 2年前 , 83F
記憶體太小 要cnn rnn至少也要64-12
02/09 21:48, 83F
→
02/09 21:48, 2年前 , 84F
8 另外要塞兩張要不要買機架式
02/09 21:48, 84F
推
02/09 22:09, 2年前 , 85F
我們實驗室去年剛買3955WX，下一台
02/09 22:09, 85F
→
02/09 22:09, 2年前 , 86F
打算等Zen3 TR
02/09 22:09, 86F
→
02/09 22:32, 2年前 , 87F
2….2000w完美 psu拿個1200w/1300w
02/09 22:32, 87F
→
02/09 22:32, 2年前 , 88F
的就可以了吧 頂多1600w 主版改ddr4
02/09 22:32, 88F
→
02/09 22:32, 2年前 , 89F
的然後上32g*2
02/09 22:32, 89F
推
02/09 23:02, 2年前 , 90F
老實說1500w一顆就夠了 板子和記憶
02/09 23:02, 90F
→
02/09 23:02, 2年前 , 91F
體改DDDR4的 不過你們這種平台我還
02/09 23:02, 91F
→
02/09 23:02, 2年前 , 92F
是推直上TR4 拿個3960x都好
02/09 23:02, 92F
‣ 更多 henrychang81 的文章
文章代碼(AID): #1Y0P59ql (PC_Shopping)