[菜單] 110K AI,LLM計算機

看板PC_Shopping作者 (終焉華爾滋)時間3月前 (2024/01/09 13:55), 3月前編輯推噓13(13062)
留言75則, 14人參與, 3月前最新討論串1/1
已買/未買/已付訂金(元):未買 預算/用途:LLM(AI語言模型)計算+玩遊戲(2K 144hz) CPU (中央處理器):Ryzen7 7800X3D MB (主機板):技嘉 X670 AORUS ELITE AX RAM (記憶體):威剛 ADATA XPG LANCER DDR5-6000 64G(32G*2) ($5999,金士頓 缺貨) VGA (顯示卡):技嘉 RTX 4090 WINDFORCE V2 24G ($61090) + EVGA GeForce RTX 3080 FTW3 ULTRA GAMING 10G (原有) Cooler (散熱器):利民 FC140 (原有) SSD (固態硬碟):美光 Crucial MX500 1TB (原有) HDD (硬碟):Toshiba 4TB , Toshiba 2TB (原有) PSU (電源供應器):EVGA SuperNOVA 1000 G6, 80 Plus Gold 1000W (原有) + 振華 LEADEX VII XG 850W (for 4090) ($4590) CHASSIS (機殼):追風者 Enthoo Pro II 伺服器版本(金屬側板) ($4890) MONITOR (螢幕): Mouse/KB (鼠鍵): OS (作業系統): 其它 (自填):利民 TL-C12C 風扇*15 ($64*15,京東) 總價 (未稅/含稅): LLM運算需求: 主板: 2x PCIe 4.0 支援 雙顯卡 x8/x8 Bifurcation B650 裡面唯一支援x8/x8 只有華碩proart 看討論區說沒有該功能只影響training就算了 VRAM: 24G~48G 越多越好(2.4bpw exl2 ~ 4.65bpw exl2) 記憶體: reddit看到有人說有差 有人說沒有 所以乾脆直上吧 畢竟新板子有x8/x8基本都有DDR5 升級主要是為了4090 換掉主板/記憶體/顯卡/機殼 剩下都用現成的 之後可能會把3080 換張 3090 24G + 水冷 散熱/供耗: 3090只需要壓到280W LLM就有91.5%速度,加上LLM是交替輪用兩張卡 應該 是不會變烤箱(吧) -------------- 小抱怨 突然發現這半年顯卡漲了 記憶體漲了 真的是挑個爛時候升級 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.160.141.30 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1704779741.A.E1F.html ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 13:57:27

01/09 13:57, 3月前 , 1F
你確定1000W夠嗎?
01/09 13:57, 1F

01/09 13:58, 3月前 , 2F
不要光害不要水冷 你買O11系列做啥
01/09 13:58, 2F

01/09 13:58, 3月前 , 3F
噪音無所謂的話你應該要直接上機櫃吧
01/09 13:58, 3F

01/09 13:58, 3月前 , 4F
直接配工業扇了
01/09 13:58, 4F

01/09 13:58, 3月前 , 5F
也不要玻璃 那你還買O11
01/09 13:58, 5F

01/09 13:59, 3月前 , 6F
我猜他是想要一張吊豬肉之類的吧
01/09 13:59, 6F

01/09 14:00, 3月前 , 7F
4090+3090 拿1000W確定嗎
01/09 14:00, 7F

01/09 14:00, 3月前 , 8F
他要兩張卡 只能吊起來吧
01/09 14:00, 8F
目前確實是打算吊起來 畢竟ProArt B650 兩個PCIe太近了 這樣基本散不到熱量

01/09 14:03, 3月前 , 9F
他這個要雙電源吧,O11D evo xl不能雙電
01/09 14:03, 9F

01/09 14:03, 3月前 , 10F
01/09 14:03, 10F

01/09 14:05, 3月前 , 11F
不要拿7600X啊 7500F用起來有九成五像 要就
01/09 14:05, 11F

01/09 14:05, 3月前 , 12F
AM5主板不要選華碩啊...
01/09 14:05, 12F
我個人也不喜歡華碩板 但是找不太到其他能切PCIe x8/x8 的便宜板子 MEG X670E GODLIKE 就要兩萬up了

01/09 14:05, 3月前 , 13F
7950X不然拿7500F就好了
01/09 14:05, 13F

01/09 14:05, 3月前 , 14F
而且你要吊顯卡怎麼沒有買排線
01/09 14:05, 14F
主要是還沒確定要哪個機殼 到時候會一並購入直立架和排線

01/09 14:06, 3月前 , 15F
你記憶體又是32g*2...自檢應該會等很久
01/09 14:06, 15F

01/09 14:07, 3月前 , 16F
電源的部分可以直接再買一顆ATX3.0 1000W
01/09 14:07, 16F

01/09 14:07, 3月前 , 17F
,新的電源接4090和其他東西,舊電源接30
01/09 14:07, 17F

01/09 14:07, 3月前 , 18F
80,然後用同時啟動線連兩顆電源,不過機
01/09 14:07, 18F

01/09 14:07, 3月前 , 19F
殼要改非XL才有雙電源倉
01/09 14:07, 19F
電源部分大家好像都是支持再買一個電源 而不是換一個1600W的PSU? 這樣能裝得下的機殼應該很有限吧 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:14:26

01/09 14:11, 3月前 , 20F
顯卡支架要買O11D EVO UPRIGHT GPU KIT,
01/09 14:11, 20F

01/09 14:11, 3月前 , 21F
裡面有延長線
01/09 14:11, 21F

01/09 14:17, 3月前 , 22F
最好再加購前網版套件,前面再加三顆進
01/09 14:17, 22F

01/09 14:17, 3月前 , 23F
01/09 14:17, 23F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:18:52

01/09 14:17, 3月前 , 24F
前三下三進 側三出上三後一出
01/09 14:17, 24F

01/09 14:18, 3月前 , 25F
SSD我建議你順便再加一條m.2
01/09 14:18, 25F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:21:50 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:23:53

01/09 14:23, 3月前 , 26F
你換不是XL的版本就能雙電源了
01/09 14:23, 26F

01/09 14:24, 3月前 , 27F
不然就是像上面說的買機櫃
01/09 14:24, 27F

01/09 14:25, 3月前 , 28F
或是買開放式機殼直接用電風扇吹
01/09 14:25, 28F

01/09 14:27, 3月前 , 29F
用AI,LLM最好用intel,避免奇怪的問題發
01/09 14:27, 29F

01/09 14:27, 3月前 , 30F
01/09 14:27, 30F
目前只打算跑GPTQ/EXL2 只會在GPU上計算 應該不會動用到CPU吧 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:31:37

01/09 14:32, 3月前 , 31F
好奇問一下 不能用一個更大的電源就好嗎
01/09 14:32, 31F

01/09 14:35, 3月前 , 32F
也可以啊,只是1300/1600W都蠻貴的,現在
01/09 14:35, 32F

01/09 14:35, 3月前 , 33F
又有現有還不錯的1000W電源,所以我才推
01/09 14:35, 33F

01/09 14:35, 3月前 , 34F
雙電源
01/09 14:35, 34F

01/09 14:37, 3月前 , 35F
喔對吼 他已經有一顆G6 那再買一顆ATX3.0
01/09 14:37, 35F

01/09 14:37, 3月前 , 36F
1000W的接4090就好了 買更大瓦反而要多
01/09 14:37, 36F

01/09 14:37, 3月前 , 37F
花錢 還要處理舊電源
01/09 14:37, 37F

01/09 14:37, 3月前 , 38F
突然發現台達1300W價格還不錯,不過沒那
01/09 14:37, 38F

01/09 14:37, 3月前 , 39F
麼充裕就是了
01/09 14:37, 39F
研究一下發現更高的電供需要220V 我的座位附近偏偏沒有 還是老實用兩顆1000W.. ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:42:42

01/09 14:40, 3月前 , 40F
他說是兩張輪流用 應該也不用吃太多電吧
01/09 14:40, 40F

01/09 14:47, 3月前 , 41F
CPU看你,專業領域連i+n有的都容易被出
01/09 14:47, 41F

01/09 14:47, 3月前 , 42F
問題了
01/09 14:47, 42F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:54:30

01/09 14:48, 3月前 , 43F
歷史經驗,我會覺得那個價差,去搞那些
01/09 14:48, 43F

01/09 14:48, 3月前 , 44F
不值得
01/09 14:48, 44F
上面也有人不支持華碩amd板 我來找找看有什麼Intel板可以用好了 畢竟我也沒用過AMD 爆了不會修= =

01/09 14:52, 3月前 , 45F
我已經能想像在電腦旁會有多熱了XD
01/09 14:52, 45F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:56:09

01/09 14:57, 3月前 , 46F
Asus AMD板讚阿 特別是裝AC後 不能只有我
01/09 14:57, 46F

01/09 15:02, 3月前 , 47F
其實到1600W都還可以用110V啦,只是滿載
01/09 15:02, 47F

01/09 15:02, 3月前 , 48F
就會占滿整個迴路了,而且效率也沒220V好
01/09 15:02, 48F

01/09 15:02, 3月前 , 49F
我曾經跟你有類似的顧慮,後來也準備
01/09 15:02, 49F

01/09 15:02, 3月前 , 50F
好了可以 x8/x8 + dual 4090 的配置。
01/09 15:02, 50F

01/09 15:02, 3月前 , 51F
不過現在回頭看,在意主板能不能做 PC
01/09 15:02, 51F

01/09 15:02, 3月前 , 52F
IE 通道拆分好像沒太大必要(可網參通
01/09 15:02, 52F

01/09 15:02, 3月前 , 53F
道數變化對應效能損失),你的情況是
01/09 15:02, 53F

01/09 15:02, 3月前 , 54F
4090+3080or90,x16+x4 跑似乎也行?
01/09 15:02, 54F

01/09 15:02, 3月前 , 55F
4090降壓去跑90%負載,其實沒什麼熱的感
01/09 15:02, 55F

01/09 15:02, 3月前 , 56F
01/09 15:02, 56F

01/09 15:04, 3月前 , 57F
如此一來配單可以更加彈性
01/09 15:04, 57F

01/09 16:12, 3月前 , 58F
以前拿epyc+nv的經驗amd是沒啥問題
01/09 16:12, 58F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 16:56:15

01/09 17:17, 3月前 , 59F
現在資料中心AMD也沒少買吧
01/09 17:17, 59F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 17:56:48 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 17:57:29 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:02:56 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:04:09 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:04:43 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:57:28

01/09 19:23, 3月前 , 60F
華碩記得別裝AC軟體 其他倒是還好啦
01/09 19:23, 60F

01/09 19:24, 3月前 , 61F
EVGA電源記得申請16p模組線 別用顯卡附的
01/09 19:24, 61F
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 21:37:11 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 21:38:14 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 21:41:12 ※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 22:23:51

01/09 23:27, 3月前 , 62F

01/09 23:30, 3月前 , 63F
4U機殼三個工業扇搭配顯卡處兩組抽風
01/09 23:30, 63F

01/09 23:30, 3月前 , 64F
兩張3090滿載大概70度左右 不過是真的
01/09 23:30, 64F

01/09 23:30, 3月前 , 65F
蠻吵的
01/09 23:30, 65F

01/09 23:36, 3月前 , 66F

01/09 23:36, 3月前 , 67F
兩組2U電源並聯最多提供2000W 有比ATX
01/09 23:36, 67F

01/09 23:36, 3月前 , 68F
電源省點空間
01/09 23:36, 68F

01/09 23:41, 3月前 , 69F

01/09 23:41, 3月前 , 70F
4090也有提供16pin的電源背板,直接換
01/09 23:41, 70F

01/09 23:41, 3月前 , 71F
掉機殼內附的就行了
01/09 23:41, 71F

01/09 23:43, 3月前 , 72F
需要pcie通道就直接選x670(e)沒問題
01/09 23:43, 72F

01/09 23:43, 3月前 , 73F
然後兩顆psu如果不是220v記得不要吃
01/09 23:43, 73F

01/09 23:43, 3月前 , 74F
同個迴路
01/09 23:43, 74F

01/09 23:43, 3月前 , 75F
這組背板就有支援到3000W
01/09 23:43, 75F
文章代碼(AID): #1bdD_TuV (PC_Shopping)