作者查詢 / patvessel
作者 patvessel 的總覽 (PTT發文,留言,暱稱)
發文數量: 26
收到的『推』: 301 (43.6%)
收到的『→』: 376 (54.4%)
收到的『噓』: 14 (2.0%)
留言數量: 2304
送出的『推』: 543 (23.6%)
送出的『→』: 1173 (50.9%)
送出的『噓』: 588 (25.5%)
使用過的暱稱: 2
patvessel 在 PTT 最新的發文, 共 26 篇
patvessel 在 PTT 最新的留言, 共 2304 則
42F噓: 西方一開源 強國就自研49.215.242.63 02/18 09:03
11F推: GPTOSS120B能夠不用MOE架構來跑嗎..125.229.28.82 02/13 18:27
12F推: 我在用的環境輸入遠高於輸出 尤其大型125.229.28.82 02/14 02:05
13F→: 規範檔案一放就是五萬十萬起跳125.229.28.82 02/14 02:06
31F推: 因為序列運算會被最慢的環節拖累125.229.28.82 02/14 08:41
32F→: 所以沒有升級到可以全部讀到VRAM裡面125.229.28.82 02/14 08:41
33F→: 的話升級的確是會沒有什麼感覺125.229.28.82 02/14 08:42
34F→: 主因是活動參數小所以對於頻寬的要求低125.229.28.82 02/14 08:44
35F→: 也是有些MOE沒有切那麼細的125.229.28.82 02/14 08:45
36F→: 而且這都是進到生成階段的事情125.229.28.82 02/14 08:46
37F→: 上下文一長CPU預充填就等死人了125.229.28.82 02/14 08:46
55F推: 問題應該不是被第三張60TI拖累125.229.28.82 02/16 00:54
56F→: 而是因為48G還是放不下所有權重125.229.28.82 02/16 00:55
57F→: 還是會有部分被offload到系統RAM裡面125.229.28.82 02/16 00:55
58F→: 所以最慢的是系統ram那塊125.229.28.82 02/16 00:55
59F→: 只要沒辦法全部塞進VRAM 有一部分必須125.229.28.82 02/16 00:56
60F→: 放在系統RAM的話 那不管幾張卡 瓶頸125.229.28.82 02/16 00:56
61F→: 都還是那個最慢的DDR4/5 而不是顯示卡125.229.28.82 02/16 00:56
62F→: 因為分層 傳輸的中間值是塞不滿PCIE的125.229.28.82 02/16 00:57
63F→: 至於人的價值...為什麼你會希望人類有125.229.28.82 02/16 00:58
64F→: 什麼天命還是價值是其他東西沒有的?125.229.28.82 02/16 00:58
65F→: 如果真的有價值的東西 那不管背後是125.229.28.82 02/16 00:59
66F→: 神經元還是矽晶片 那就是會有價值125.229.28.82 02/16 00:59
67F→: 價值不由載體決定125.229.28.82 02/16 00:59
68F→: 對 預算一定爆49.215.242.63 02/14 08:28
144F噓: 所有人都在討論能不能讓中國人當立委49.215.242.63 02/14 08:22
145F→: 這位邏輯鬼才偷換概念成陸配不能當立委49.215.242.63 02/14 08:22
38F推: 買武器如果損害國力和全體納稅人權益的49.215.242.63 02/13 09:24
39F→: 話 中國這麼聰明應該會強力支持49.215.242.63 02/13 09:24
patvessel 在 PTT 的暱稱紀錄, 共 2 個
暱稱:帕特貝賽爾
文章數量:23
暱稱:真改
文章數量:2