Re: [閒聊] 做程式的請進已回收

看板Marginalman作者 (赤井はあとのぶた)時間1年前 (2024/02/05 20:37), 編輯推噓2(2012)
留言14則, 5人參與, 1年前最新討論串11/20 (看更多)
所以有沒有AI大師 C++或RUST在這領域怎麼用的比屁眼少好多 這種吃效能的怎摸會是屁眼占多數 不過忘記llama還bert還誰的tokenizer是用rust 有人能內推我嗎 我最近會用transformer跟mistral惹 QQ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.171.128.236 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Marginalman/M.1707136649.A.E48.html

02/05 20:38, 1年前 , 1F
因為Data flow其實不在CPU
02/05 20:38, 1F

02/05 20:39, 1年前 , 2F
C++跟Rust建置時間長到你想哭
02/05 20:39, 2F

02/05 20:40, 1年前 , 3F
C++有一個套件阿 甚麼Net著
02/05 20:40, 3F

02/05 20:40, 1年前 , 4F
那2個沒辦法用到GPU喔?
02/05 20:40, 4F

02/05 20:40, 1年前 , 5F
transformer現在不適小大一的作業嗎
02/05 20:40, 5F

02/05 20:40, 1年前 , 6F
這樣遊戲用C++寫怎摸吃GPU的
02/05 20:40, 6F

02/05 20:41, 1年前 , 7F
沒必要 效能好是犧牲開發效率換來的
02/05 20:41, 7F

02/05 20:42, 1年前 , 8F
遊戲的主流是把常見運算用C++包好 上層用腳本調用
02/05 20:42, 8F

02/05 20:42, 1年前 , 9F
幹我是能大學讀10年喔 transformer出來我都快畢業惹
02/05 20:42, 9F

02/05 20:42, 1年前 , 10F
雖然UE是用C++做腳本啦
02/05 20:42, 10F

02/05 20:42, 1年前 , 11F
PY可以import C效能有差ㄇ==
02/05 20:42, 11F

02/05 20:45, 1年前 , 12F
懶學的底層也是用C++先處理掉cuda調用 最後才給Py bind
02/05 20:45, 12F

02/05 20:45, 1年前 , 13F
通常都是pymodel弄好在移植到c++
02/05 20:45, 13F

02/05 20:56, 1年前 , 14F
cuda就是C++底層阿 不可能用python寫的
02/05 20:56, 14F
文章代碼(AID): #1bmDQ9v8 (Marginalman)
討論串 (同標題文章)
文章代碼(AID): #1bmDQ9v8 (Marginalman)