作者查詢 / oopFoo

總覽項目：發文 | 留言 | 暱稱

作者 oopFoo 在 PTT 全部看板的留言(推文), 共7422則

限定看板：全部

看板排序：

首頁

尾頁

[討論] LLM即將像Stable Diffusion普及

[ Soft_Job ]44 留言, 推噓總分: +11

作者: oopFoo - 發表於 2023/03/15 12:56(3年前)

13^F→oopFoo: pc的效能不錯。RPI是10秒一個token，pc是秒內幾個token03/15 20:22

14^F→oopFoo: declarative的程式，LLM比較會處理。只要補餵正確的資料，03/15 20:23

15^F→oopFoo: android/gnu make都可以分析。最近看好多應用都蠻有趣的03/15 20:30

16^F→oopFoo: 當然沒有的功能，問LLM，它會幻想給你，但這是小問題03/15 20:33

32^F→oopFoo: Meta說LLaMA-13B可比GPT3的175B。03/16 15:35

33^F→oopFoo: 目前都是最簡單的CPU優化。剛開始Pixel6需要26秒/token03/16 15:38

34^F→oopFoo: 前幾天已經5token/秒。各家版本飛速進步中。03/16 15:39

35^F→oopFoo: LLMs的"幻想"是內建，目前沒辦法，只能後續查證。03/16 15:40

41^F→oopFoo: chatGPT是通用的chat，但自己的，如Alpaca你可以訓練特化03/18 10:16

42^F→oopFoo: 的instruction tuning。更適合自己的用途。03/18 10:17

43^F→oopFoo: https://github.com/antimatter15/alpaca.cpp03/18 21:56

44^F→oopFoo: windows可以玩，自己編譯7B版，13B版應該很快就來了。03/18 21:57

[情報] 明年INTEL確定換腳位

[ PC_Shopping ]125 留言, 推噓總分: +42

作者: rook18ies - 發表於 2023/03/18 12:41(3年前)

100^F推oopFoo: MTL最初規劃只有nb，ARL才是主力，當初ARL是GG的3N。後來03/18 19:48

101^F→oopFoo: 就一路變化，現在好像又回到原先的樣子。03/18 19:50

[情報] Arrow Lake-S 平台回歸 2024 年將會推出已刪文

[ PC_Shopping ]43 留言, 推噓總分: +21

作者: ultra120 - 發表於 2023/03/18 00:12(3年前)

27^F推oopFoo: benchlife的Chris是有內線的，但他有時會誤解細節03/18 08:11

32^F→oopFoo: DT只有refresh，筆電才有14代03/18 09:59

[閒聊] 組裝Chat-LLaMA主機的規格

[ PC_Shopping ]10 留言, 推噓總分: +3

作者: oopFoo - 發表於 2023/03/17 13:35(3年前)

7^F→oopFoo: 記憶需求x2，庫存變100天，機器增加，供不應求。03/18 09:56

8^F→oopFoo: 這ai助手功能使需求大爆發是很有可能的。現在PC的記憶體都03/18 09:58

9^F→oopFoo: 配太少了。03/18 09:58

[菜單] 40k程式機

[ PC_Shopping ]33 留言, 推噓總分: +9

作者: aaaa7582 - 發表於 2023/03/17 14:14(3年前)

9^F推oopFoo: build怎麼會用不到小核？越多核越好。03/17 14:28

[菜單] 自用 Server

[ PC_Shopping ]100 留言, 推噓總分: +24

作者: Fantasywind - 發表於 2023/03/11 15:31(3年前)

65^F推oopFoo: 你要idle低，其實應該用intel的，7900的chiplet設計，io的03/11 17:41

66^F→oopFoo: 的idle功耗高。要集成一顆，idle功耗才低。你看tdp是不准03/11 17:42

[閒聊] 測試Intel VSR升頻，比想像中還有料!

[ PC_Shopping ]189 留言, 推噓總分: +75

作者: poi96300 - 發表於 2023/03/11 14:20(3年前)

36^F推oopFoo: "x64"是amd推的，x86架構沒AMD競爭是死水一灘。03/11 14:38

[閒聊] 舊聞 AMD 6000系列顯卡驅動已刪文

[ PC_Shopping ]58 留言, 推噓總分: +22

作者: Mapodoufu - 發表於 2023/03/11 10:50(3年前)

10^F推oopFoo: 之前就結論了。那是一批洗過的礦卡，是礦卡問題，不是驅動03/11 10:56

12^F→oopFoo: 問題。不要再傳錯誤訊息，自刪吧03/11 10:56

Re: [情報] 傳NV打算推出GD6X版本的3060

[ PC_Shopping ]69 留言, 推噓總分: +14

作者: tint - 發表於 2023/03/08 11:51(3年前)

8^F推oopFoo: 你想的太複雜了。一個是4MB/SM的L2，一個是3MB/SM的L2。03/08 12:59

9^F→oopFoo: 某些運算，L2多的贏。03/08 13:00

10^F→oopFoo: 然後rtx40系列，L2加大很多。03/08 13:02

21^F推oopFoo: 是啊，NV可以砍，但砍下來，性能因為調度而差那麼多？不太03/08 14:06

22^F→oopFoo: 可能。現在跑gpu code，基本上等data的時間是最多的，線序03/08 14:07

23^F→oopFoo: 再多，幫助有限，卡還是卡資料頻寬。NV跟I家都是增加L2，03/08 14:09

24^F→oopFoo: 因為現代硬體跟程式碼的架構，加L2的效果較好。在GPU裡L303/08 14:13

25^F→oopFoo: 有點尷尬，還不如記憶體頻寬加大一點，主要是GPU吞吐資料03/08 14:15

26^F→oopFoo: 量實在太大，大L2+大頻寬的效果是目前最好的。03/08 14:17

27^F推oopFoo: https://tinyurl.com/5n6h4s4x03/08 14:22

28^F→oopFoo: 如何有效利用L2的locality一直是最佳化的問題。加大比較03/08 14:24

29^F→oopFoo: 簡單，改程式比較困難。03/08 14:25

43^F推oopFoo: 我可能猜錯，但性能差這麼多，如果L2不變，那就是L2的03/08 15:00

45^F→oopFoo: latency差很多。但latency差多的話，基本上所有程式都會有03/08 15:02

46^F→oopFoo: 改進。所以猜L2的size不一樣是最有可能的。我還是不相信03/08 15:03

47^F→oopFoo: 線序調度可以差這麼多。不是不可能，但我想不出怎樣的程式03/08 15:06

48^F→oopFoo: 會這樣。03/08 15:06

53^F推oopFoo: L2沒砍，遊戲影響比較小，compute影響比較大。主要是106的03/08 15:22

54^F→oopFoo: sm/gpc比104的sm/gpc多。理論上反而是106在調度上有優勢，03/08 15:23

55^F→oopFoo: 所以我實在想不出需要多跨gpc效能反而高？到底是什麼神奇03/08 15:25

56^F→oopFoo: 程式。不然就是L0的設計是不一樣。不管如何我還是盲猜03/08 15:26

57^F→oopFoo: 是Cache的幫助。03/08 15:27

[情報] 生成式AI緊密整合Windows作業系統，有很

[ PC_Shopping ]58 留言, 推噓總分: +27

作者: ynlin1996 - 發表於 2023/03/08 14:02(3年前)

10^F推oopFoo: 勿忘Clippy03/08 14:35

首頁

尾頁