看板 [ Tech_Job ]
討論串[新聞] Nvidia 最大夢魘來臨！AI 聊天機器人執行 Groq LPU 比 GPU 快十倍
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#2
Re: [新聞] Nvidia 最大夢魘來臨！AI 聊天機器人執行 Groq LPU 比 GPU 快十倍
推噓9(9推 0噓 6→)留言15則，0人參與, 1年前最新作者chengcti (版主請投我一票!)時間1年前 (2024/02/24 18:22), 編輯資訊
0
0
1
內容預覽:
專用型跟泛用型不同. GpU 可執行繪圖 渲染 訓練 LLVM. 什麼都可以. LPU 只能提供訓練後的LLVM 產生結果. 而且 GROQ 展示的參數遠比 openAI 70B. 速度難比較. 況且 RAM 不知道開不能支持這麼多的. Token. 就好像拿GPU 挖礦跟 ASIC 挖礦. GpU
#1
[新聞] Nvidia 最大夢魘來臨！AI 聊天機器人執行 Groq LPU 比 GPU 快十倍
推噓9(20推 11噓 27→)留言58則，0人參與, 1年前最新作者pl132 (pl132)時間1年前 (2024/02/24 10:36), 編輯資訊
0
0
1
內容預覽:
Nvidia 最大夢魘來臨！AI 聊天機器人執行 Groq LPU 比 GPU 快十倍. http://tinyurl.com/2y4cehyv. 不論何種 AI 應用，速度非常重要。當我們要求熱門 AI 聊天機器人撰寫文章、電子郵件或翻譯文稿時，我們會希望輸出結果愈快愈好。如今一家專為運行 AI
(還有562個字)
首頁
上一頁
1
下一頁
尾頁