作者查詢 / JSLee914
作者 JSLee914 在 PTT 全部看板的留言(推文), 共2237則
限定看板:全部
看板排序:
全部C_Chat1448Gossiping322MobileComm127CFantasy78Stock62movie42AI_Art41China-Drama41Baseball18Lifeismoney13C_ChatBM6hololive5joke5piano3Vtuber3LordsOfWater2QuestCenter28words1AC_In1book1ChangHua1HarryPotter1home-sale1image1Marginalman1NFT1NIHONGO1PlayStation1Shana1Shu-Lin1ShuangHe1single1SongShan1TaichungBun1Tokusatsu1VR1<< 收起看板(36)
8F推: 訓練肛門收縮42.74.6.193 07/17 00:45
22F推: 有位子坐嗎,沒人讓位還不是站在那邊111.82.17.159 07/12 22:26
63F推: 升個雕,趕快升啦07/12 16:17
28F推: 不調整幹嘛發?223.139.230.35 07/11 18:55
33F推: 工作是做不完的,所以你token能燒的越有效率,買家就會07/10 20:38
34F→: 買單07/10 20:38
35F→: 大公司在燒token的速度是我們不能想像的07/10 20:39
5F推: 蠻好笑的結論,可能背後是阿三跟你對答07/10 20:34
20F推: https://i.imgur.com/4IBP4zO.jpeg07/10 13:57
21F→: 他在建立啟動檔的那個文件,你去找對應的模型名稱07/10 13:58
22F→: -ngl 999 ^07/10 14:01
23F→: -c 8192 ^07/10 14:01
24F→: -n 4096 ^07/10 14:01
25F→: 找到上面這3個,把c和n改大,通常是乘2的倍數07/10 14:01
26F推: -c = 模型的記憶空間07/10 14:03
27F→: -n = 一次最多回答多少07/10 14:03
28F→: -c 決定上下文快的主要配置量,因此是影響記憶體/顯07/10 14:03
29F→: 存用量較大的參數。07/10 14:03
30F→: 至於要設多大的數字要看你的顯卡vram,你可以把你的硬07/10 14:06
31F→: 體和模型配置丟給ai,他可以幫你算,或是你自己試試看07/10 14:06
32F→: 也行07/10 14:06
5F推: 溫水煮多蛙 多蛙壽司223.138.90.190 07/10 12:41
30F推: 笑死 真的戴了就看到鬼07/08 15:49
6F推: 所以就是有錢人圖新鮮買來玩的,誰不知42.75.237.54 07/07 07:37
7F→: 道真人比較便宜42.75.237.54 07/07 07:37