[閒聊] Qwen3.8 Flash Next 125B-A6B n51B
這名子也太他媽長了
總之是125B-A6B的MoE加上51B的n-gram嵌入
由於n-gram字典理論上能放硬碟讀取
Q4可以在8~12G vram+64G ram運行一個近200B的模型
個人電腦又迎來新神
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.79.96.144 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Marginalman/M.1787706302.A.4D4.html
推
08/26 09:12,
1周前
, 1F
08/26 09:12, 1F
→
08/26 09:12,
1周前
, 2F
08/26 09:12, 2F
→
08/26 09:20,
1周前
, 3F
08/26 09:20, 3F
→
08/26 09:23,
1周前
, 4F
08/26 09:23, 4F
→
08/26 09:30,
1周前
, 5F
08/26 09:30, 5F
推
08/26 09:35,
1周前
, 6F
08/26 09:35, 6F