[硬體] mac mini與mac studio選擇

看板MAC作者 (iGodric)時間4天前 (2026/08/26 18:17), 編輯推噓14(14推 0噓 31→)
留言45則, 15人參與, 1天前最新討論串1/1
https://i.mopix.cc/Fyy4F6.jpg
https://i.mopix.cc/gswJT8.jpg
目前有兩台MAC在考慮，有考慮玩看看本地化AI，在兩台價格差不多的情況下應該考慮基 本款的MAC studio還是記憶體升到48GB的MAC MINI？ 先謝謝大家的建議了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.160.149.2 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/MAC/M.1787739422.A.7DE.html
推
08/26 18:24, 4天前 , 1F
要玩本地AI 除了RAM還要注意記憶體頻寬
08/26 18:24, 1F
推
08/26 18:32, 4天前 , 2F
本地AI就得堆記憶體 現在模型都玩MoE了
08/26 18:32, 2F
→
08/26 18:32, 4天前 , 3F
不怕跑不動 只怕笨
08/26 18:32, 3F
推
08/26 19:08, 4天前 , 4F
GPU核心數不是裝飾耶
08/26 19:08, 4F
→
08/26 20:01, 4天前 , 5F
記憶體頻寬那肯定是mac studio勝出 但36GB的記憶體是不是
08/26 20:01, 5F
→
08/26 20:01, 4天前 , 6F
要跑32B以上的模型就有點吃力了？ 目前GPU對於推理有幫助
08/26 20:01, 6F
→
08/26 20:01, 4天前 , 7F
嗎？ 預算有限就得綁手綁腳啊
08/26 20:01, 7F
推
08/26 21:40, 4天前 , 8F
記憶體頻寬對llm還蠻重要的，會直接影響體驗速度，GPU核
08/26 21:40, 8F
→
08/26 21:40, 4天前 , 9F
心數也很重要，直接影響算力，散熱也是mac studio 做比
08/26 21:40, 9F
→
08/26 21:40, 4天前 , 10F
較好，真的玩本地要從外面連回來還是studio比較穩，另外g
08/26 21:40, 10F
→
08/26 21:40, 4天前 , 11F
emma 4 26b Q8已經壓到30GB以下了，你可以先去下載lm stu
08/26 21:40, 11F
→
08/26 21:40, 4天前 , 12F
dio 看一下model跟量化版的大小
08/26 21:40, 12F
推
08/26 21:42, 4天前 , 13F
我覺得很好奇的是，為什麼大家都突然想玩本地了，上一代
08/26 21:42, 13F
→
08/26 21:42, 4天前 , 14F
的Mac也都可以玩啊，但是就是沒像今天一樣熱絡xDD
08/26 21:42, 14F
推
08/26 21:45, 4天前 , 15F
資安吧??
08/26 21:45, 15F
→
08/26 21:46, 4天前 , 16F
可能大家不想資料傳到雲上??
08/26 21:46, 16F
→
08/26 22:15, 4天前 , 17F
是等等黨等到新產品出來了啊
08/26 22:15, 17F
推
08/27 00:05, 4天前 , 18F
感覺蘋果官方推波助瀾功不可沒xD
08/27 00:05, 18F
推
08/27 00:29, 4天前 , 19F
我覺得單純是時間，大家用訂閱正好用到一個覺得會被搞
08/27 00:29, 19F
→
08/27 00:30, 4天前 , 20F
的階段，所以想搞AI自主吧，而且壓到十萬能跑2、30B，
08/27 00:30, 20F
→
08/27 00:30, 4天前 , 21F
品質應該已經過了一個低標，十萬也是小玩家負擔的起的
08/27 00:30, 21F
→
08/27 00:31, 4天前 , 22F
另外就是這種規格會跑進來討論的應該都是圖這個吧...
08/27 00:31, 22F
→
08/27 00:31, 4天前 , 23F
對一般使用、開發都溢出很多了..
08/27 00:31, 23F
→
08/27 01:19, 4天前 , 24F
我今天才讓Codex作個30個工作的職缺適配度分析、評分
08/27 01:19, 24F
→
08/27 01:19, 4天前 , 25F
然後加入對應每個職缺的工作經歷，五小時限額用完，
08/27 01:19, 25F
→
08/27 01:19, 4天前 , 26F
本週限額用完85%
08/27 01:19, 26F
推
08/27 10:43, 4天前 , 27F
難怪大家最近越來越愛本地AI
08/27 10:43, 27F
→
08/27 10:43, 4天前 , 28F
花個十萬, 就不用被限制額度或token
08/27 10:43, 28F
推
08/28 08:47, 3天前 , 29F
我覺得是訂閱制的ai都有用量限制，寧願讓本地ai跑久一
08/28 08:47, 29F
→
08/28 08:47, 3天前 , 30F
點達成任務，也不要跑到一半要等下週額度重置XD，
08/28 08:47, 30F
推
08/28 10:25, 3天前 , 31F
跑LLM記憶體是最重要的，GPU是讓你速度變快，但是RAM決定
08/28 10:25, 31F
→
08/28 10:25, 3天前 , 32F
你能不能用。這兩台我認為48GB mac mini才是好選擇。不然
08/28 10:25, 32F
→
08/28 10:25, 3天前 , 33F
36GB的 Qwen3.8-27B-4bit的context length大概只能開到10
08/28 10:25, 33F
→
08/28 10:25, 3天前 , 34F
0K，遠低於模型能力的262K。
08/28 10:25, 34F
推
08/29 14:02, 1天前 , 35F
跑AI堆記憶就是了! 不只模型本身、上下文也吃記憶體，上
08/29 14:02, 35F
→
08/29 14:02, 1天前 , 36F
下文不給夠生產力會打折。
08/29 14:02, 36F
→
08/29 15:42, 1天前 , 37F
....本地也沒有多強 Gemma 31b掛agent沒有聰明多少
08/29 15:42, 37F
→
08/29 16:26, 1天前 , 38F
那是因為gemma本來就跟笨蛋一樣
08/29 16:26, 38F
→
08/29 16:29, 1天前 , 39F
36GB放不下27B嗎？KV沒quant？
08/29 16:29, 39F
→
08/29 17:38, 1天前 , 40F
gemma不用指望coding，但不代表他是笨蛋吧
08/29 17:38, 40F
→
08/29 17:45, 1天前 , 41F
本地強弱也要看幾B模型吧，31B跟70B比還是有差距吧，不過
08/29 17:45, 41F
→
08/29 17:45, 1天前 , 42F
70B的Q4模型大概也要64GB RAM才塞的進去
08/29 17:45, 42F
推
08/29 21:46, 1天前 , 43F
兩台跑本地模型都不太夠，至少64g
08/29 21:46, 43F
→
08/29 21:47, 1天前 , 44F
要玩這至少預算要10萬以上
08/29 21:47, 44F
推
08/29 21:52, 1天前 , 45F
參數太少的模型乾脆用租的
08/29 21:52, 45F
‣ 更多 ff1268 的文章
文章代碼(AID): #1gZhqUVU (MAC)