討論串[請益] 兩個改裝方案跑本地LLM請賜教
共 2 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓2(2推 0噓 8→)留言10則,0人參與, 1天前最新作者TameFoxx (foxx)時間1天前 (2026/02/12 15:02), 編輯資訊
0
0
0
內容預覽:
如果你今天只打算用ollama跑. 那建議你放棄更新硬體了. 直接用網路上的API比較划算. 以oss-120B為例子. 你用現在的硬體跑估計每秒20左右吧?. 你換Pro 6000大概也才8~90每秒. 比對現在API價格. 你的Pro 6000大概要不眠不休輸出20年才可以回本. 而且這還是不考
(還有255個字)

推噓35(35推 0噓 152→)留言187則,0人參與, 1天前最新作者newyorker54 (紐約客)時間2天前 (2026/02/11 10:34), 2天前編輯資訊
0
0
0
內容預覽:
先說我的配備. CPU AMD RYZEN 9950. 主板 ASUS CROSSHAIR X870E HERO. RAM Kingston furry beast ddr5 5600. 32g x2. crucial pro ddr5 6000 32g x2. 共128g. ssd 美光 T500
(還有456個字)
首頁
上一頁
1
下一頁
尾頁