位置編碼

看板Marginalman作者 (溫水佳樹的兄長大人)時間1周前 (2025/11/27 18:07), 編輯推噓1(100)
留言1則, 1人參與, 1周前最新討論串1/1
我就想說vit應該不用sin/cos 用1234固定編碼就好 原來attention is all you need是sin/cos vit那篇是1234 不過也有cv的vit用sin/cos 實驗一下看有沒有改善 姆咪 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.136.91.221 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Marginalman/M.1764238040.A.50C.html

11/27 18:10, 1周前 , 1F
還以為是格雷碼
11/27 18:10, 1F
文章代碼(AID): #1fA2BOKC (Marginalman)