[問卦] AI為什麼要做在顯卡上?

看板Gossiping作者 (我叫愛秋)時間1月前 (2024/03/27 02:53), 編輯推噓9(9推 0噓 33→)
留言42則, 18人參與, 1月前最新討論串1/1
欸欸 我就覺得奇怪啊 那個做顯示卡的 是和AI有個毛關係啊 顯示卡不就只是 按照CPU的指令 在那個pixel位置 打出CPU告訴它的色階 稍微搜了一下 發現原來是因為 早期顯卡為了減少CPU負載 不需要CPU一直 做枯燥的顯示工作 於是 顯卡自己搞了一個GPU 來專門處理圖形 把CPU架空 這個GPU後來就成了AI雛型 直接在顯卡上處理大量資料 但照理來說處理AI的GPU 未必一定要在顯卡上啊 它也可以搭在記憶體 搭在硬碟上或南北橋 或做成獨立的模組 插在匯流排都可以 為什麼一定要放在顯示卡上 的卦? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.26.211.69 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1711479195.A.841.html
→
03/27 02:53, 1月前 , 1F
因為他有錢搞生態
03/27 02:53, 1F
→
03/27 02:53, 1月前 , 2F
因為CPU沒人會想一直換阿==
03/27 02:53, 2F
→
03/27 02:54, 1月前 , 3F
你有錢也可以把AI處理器搞在肛塞上
03/27 02:54, 3F
→
03/27 02:56, 1月前 , 4F
你可以設計在風扇上面阿
03/27 02:56, 4F
推
03/27 02:56, 1月前 , 5F
AI是外掛模組 CPU是綁作業系統
03/27 02:56, 5F
→
03/27 02:59, 1月前 , 6F
CPU怎麼會沒人想一直換 只是剛好老黃
03/27 02:59, 6F
推
03/27 02:59, 1月前 , 7F
同捆包啊
03/27 02:59, 7F
→
03/27 02:59, 1月前 , 8F
搞顯卡啊
03/27 02:59, 8F
推
03/27 02:59, 1月前 , 9F
沒說一定要在顯卡上 我覺得你只是想發
03/27 02:59, 9F
→
03/27 02:59, 1月前 , 10F
廢文 所以我不展開說明 然後CPU執行是
03/27 02:59, 10F
→
03/27 03:00, 1月前 , 11F
單一的 不是要架空是不同工作 查資料要
03/27 03:00, 11F
→
03/27 03:00, 1月前 , 12F
看完整 文組就是這樣==
03/27 03:00, 12F
→
03/27 03:00, 1月前 , 13F
gpu圖型向量和記憶體都在顯卡上了，順便運
03/27 03:00, 13F
→
03/27 03:00, 1月前 , 14F
老黃要是有搞CPU還不給你搞到上面去
03/27 03:00, 14F
→
03/27 03:00, 1月前 , 15F
算一下省IO時間
03/27 03:00, 15F
→
03/27 03:01, 1月前 , 16F
換CPU很麻煩ㄟ== 顯卡方便多ㄌ
03/27 03:01, 16F
→
03/27 03:02, 1月前 , 17F
所謂的ai就是圖型向量matrix展開收斂"訓練"
03/27 03:02, 17F
→
03/27 03:02, 1月前 , 18F
的過程及結果啊
03/27 03:02, 18F
推
03/27 03:03, 1月前 , 19F
我都用xbox跑ai
03/27 03:03, 19F
→
03/27 03:04, 1月前 , 20F
笑死推文都答非所問只顧說自己想說的
03/27 03:04, 20F
→
03/27 03:07, 1月前 , 21F
論壇不要這麼計較== 本來就沒啥互動性
03/27 03:07, 21F
→
03/27 03:10, 1月前 , 22F
人家CUDA發展起來，所以AI綁定顯卡
03/27 03:10, 22F
→
03/27 03:11, 1月前 , 23F
其他廠家發展Ai專用硬體，還是會卡在沒有
03/27 03:11, 23F
→
03/27 03:11, 1月前 , 24F
CUDA的先進協定
03/27 03:11, 24F
→
03/27 03:13, 1月前 , 25F
短時間內都是老黃賺走，你都想到可以改做
03/27 03:13, 25F
→
03/27 03:13, 1月前 , 26F
專用晶片，老黃肯定準備已久，等著擠牙膏
03/27 03:13, 26F
推
03/27 03:23, 1月前 , 27F
他們家顯卡剛好跑比較快
03/27 03:23, 27F
推
03/27 03:47, 1月前 , 28F
牙膏廠不爭氣被老黃搶先啊
03/27 03:47, 28F
→
03/27 03:49, 1月前 , 29F
搶工作來做就可以提高價格啊
03/27 03:49, 29F
推
03/27 05:16, 1月前 , 30F
AI的模型訓練大部分是小型且多的運算
03/27 05:16, 30F
→
03/27 05:16, 1月前 , 31F
，譬如說兩數相乘再跟其他兩數相乘的
03/27 05:16, 31F
→
03/27 05:17, 1月前 , 32F
結果相加。GPU擁有大量且可應付簡單運
03/27 05:17, 32F
→
03/27 05:17, 1月前 , 33F
算的計算單位，用來訓練AI模型可以以
03/27 05:17, 33F
→
03/27 05:17, 1月前 , 34F
量取勝。
03/27 05:17, 34F
→
03/27 06:35, 1月前 , 35F
記得有人說CUDA沒多好，只是占先機
03/27 06:35, 35F
推
03/27 07:24, 1月前 , 36F
故意的 迫害遊戲玩家
03/27 07:24, 36F
→
03/27 07:24, 1月前 , 37F
捆綁銷售一堆用不到的ai功能
03/27 07:24, 37F
→
03/27 07:26, 1月前 , 38F
明明就用TPU就好 GPU留給玩遊戲的
03/27 07:26, 38F
推
03/27 08:20, 1月前 , 39F
AI就是很大量但是不複雜的張量運算
03/27 08:20, 39F
→
03/27 08:20, 1月前 , 40F
，而顯卡的shader也是為了運算大量
03/27 08:20, 40F
→
03/27 08:20, 1月前 , 41F
的點與面的向量運算而設計的。兩者
03/27 08:20, 41F
→
03/27 08:20, 1月前 , 42F
有一定程度上重疊的需求。
03/27 08:20, 42F
‣ 更多 BBQ2591 的文章
文章代碼(AID): #1c0ncRX1 (Gossiping)