[問卦] AI推理 LPU會打扒GPU嗎

看板Gossiping作者 (第三方程式)時間1周前 (2024/04/25 12:24), 編輯推噓4(4推 0噓 3→)
留言7則, 7人參與, 1周前最新討論串1/1
groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事（遊戲 生圖等等）？ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.115.242 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1714019050.A.D0F.html
推
04/25 12:29, 1周前 , 1F
準備歐印！
04/25 12:29, 1F
→
04/25 12:37, 1周前 , 2F
不行
04/25 12:37, 2F
推
04/25 12:41, 1周前 , 3F
not for training
04/25 12:41, 3F
推
04/25 12:43, 1周前 , 4F
只適合推理 訓練微調一樣要GPU
04/25 12:43, 4F
推
04/25 12:53, 1周前 , 5F
剛剛試用 速度真的快
04/25 12:53, 5F
→
04/25 14:46, 1周前 , 6F
UUU
04/25 14:46, 6F
→
04/25 15:23, 1周前 , 7F
懶趴油
04/25 15:23, 7F
‣ 更多 attacksoil 的文章
文章代碼(AID): #1cAThgqF (Gossiping)