Re: [請益] 成為 AI 工程師的進修方向(代po)

看板Soft_Job作者 (皓月)時間2年前 (2021/07/01 22:38), 編輯推噓16(16029)
留言45則, 18人參與, 2年前最新討論串3/3 (看更多)
※ 引述《techniclaire (齁齁)》之銘言: : (本文作者無帳號,協助代po ^ ^~) : 前文少po段落就送出,因手機一直無法編輯,所以刪文重發QQ : 大家好, : 小弟目前在台北某傳產擔任數據分析師,學歷是國立統計所,碩論是做 ML 演算法改良(沒投期刊,我覺得是垃圾),碩班期間有自修 DL。 : 希望能用 DL 找工作,主力程式為 Python。 : 目前剛進去公司半年多,主要負責影像辨識的專案,內容是用 Yolo 進行 real time 的瑕疵檢測,專案目前也已經上線了,因此算是有一些實務經驗。 : 看了蠻多 ptt 上的文,對目前 AI/DL 工作的現況總結如下: : - 做 DL 的人已經爛大街了,幾乎每個實驗室都在做 AI : - 想做演算法 / 模型開發的話至少要念到博士 : - 基礎資工能力非常重要,沒人要只會 DL 的人 : - 刷 Leetcode : 考慮以上、總結目前目標是成為一個「能將現有較新的 DL 方法應用在公司產品上」的工程師,希望將來能到聯發科、瑞昱等一線 IC 設計公司工作。 : 目前我想到的進修方向如下: : - 持續關注 AI/DL 的發展,了解現在的趨勢,並且參加一些像是T-brain、Kaggle 之類的比賽。 : - 修李宏毅老師的 ML 相關課程,我這學期有跟著寫一些 ML 作業,覺得自己的 Pytorch 熟悉度有提高很多 : - 學 C++ (主要是看到如果模型要應用的話還是得用到 C++,而且有些模型像是 Yolo 也是用 C++ 寫的) : - 把資料結構及演算法學好,刷 Leetcode : - 做一個深度學習專案,例如把 Yolo 模型遷入到手機中 : - 增進英文能力,方便吸收國外資源及看論文的速度,有沒有推薦內向人的英文口說學習資料或是補習班。 : - 其他,例如增進簡報能力 : 想請問各位先進,我目前的想法有需要調整的地方嗎(or 打掉重練qq) 本人工作6年多 目前經歷的兩份工作都跟ML相關(預測相關) 依照本人的經驗 我會建議兩個可能的方向 其他方向或許也有機會 不過我不太熟就不發表意見了 (1) 認真打 kaggle 假設你可以長期都可以solo拿到銀牌 (可能每天二三個小時) (金牌需要非常多的時間,運算資源,運氣 很難強求) 尤其是不參考別人 我覺得都有相當的能力 依照我的了解 台灣真的kaggle打得好的人其實很少 而且不少公司都在找這些人 這些人有相當的市場價值 本人雖然已經非常久沒有打kaggle了 但我覺得打kaggle的人有一些特質 第一是他們會減少一些信仰, 讓結果說話 相對於沒經驗的人 他們可能會更小心的設計 validation set 並且跑過相當次數 驗證 validation set / test set 進步的一致性 正常人可能隨便就選了 n-fold cv / train-validation 的架構 然後就開始grid search hyperparameter 然後有一些感覺上很有道理 (paper上哪個模型比哪個模型好, 一些很直覺的feature) 但實際上卻不怎麼work的事情 會接二連三的發生 一些小到讓人覺得微不足道卻影響最後的事情 也會接二連三的發生 因為每幾個月就換一次比賽 你內心可能就會改變各種方法的信心度 書本上教的A方法 信心度可能從95% -> 60% 討論區看到讓人半信半疑的方法 信心度可能從40% -> 80% 所以對於大部分的問題 你會有一個武器庫 從信心度最高的一個一個試 另外因為資料會有些微的不一樣 所以每次你可能要快速地想 benchmark 跟 處理一些雜事 我覺得這個過程大概可以到你打完一個比賽覺得自己什麼都沒有學到就差不多了 (2) 找一些結果相當容易量化的 project 來做 結果相當容易量化的通常都是只target明確 比較不是偏 unsupervised 的題目 盡可能的讓target的成效變好 比如 預測台股 扣除掉模型的差距 你可以學習如何爬資料(三大法人, 期貨, 分點, 財報) 你會長期覺得現在是試新資料比較重要還是新模型比較重要 如果你能把預測變成交易策略 搞不好還可以發財(? 這樣別人在問你project的時候 才可以讓面試官覺得你可以把一個題目做到很深 不會一下就卡住了 我自己覺得這兩個方向的人都蠻吸引人的 以我自己的感覺來說(主觀) 這樣的能力 會比用套件跑了某個結果 然後呈現在某個app或者網頁上的人吸引人 ------------------------------------------------------------------- 總之大概就是 (1) 增加自己的武器庫 (2) 增加自己打雜的能力 (有些人遇到pandas,sklearn,tensorflow,lightgbm某個bug就要處理一個禮拜 如果你只要幾天就可以有一樣的結果(可能都是放棄) 你就是前者幾倍的效率) (3) 其實ML(AI)各領域還是差蠻多的 廣告競標, 推薦系統, 視覺, 聽覺, 低頻交易, 高頻交易, 雖然不能說隔行如隔山, 但我覺得跳領域可能有種10年經驗 變成3年的感覺,所以如果有喜歡的領域 就盡量從相關的題目做吧 最後 祝好運 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 150.116.39.19 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1625150301.A.F5A.html

07/01 23:40, 2年前 , 1F
寫self-supervised 比較對,unsupervised是指data
07/01 23:40, 1F

07/01 23:55, 2年前 , 2F
我不是cv出生的 不過單看 shorturl.at/kmEK4 來說
07/01 23:55, 2F

07/01 23:55, 2年前 , 3F
self-supervised learning似乎是unsupervised learning
07/01 23:55, 3F

07/01 23:56, 2年前 , 4F
的子集合 不過我要講的是有些paper會建立某種機率模型
07/01 23:56, 4F

07/01 23:59, 2年前 , 5F
然後找最大likelihood的參數 在用參數或分類結果講一些
07/01 23:59, 5F

07/02 00:00, 2年前 , 6F
故事 我個人認為這一類的研究是相對難應用在業界上
07/02 00:00, 6F

07/02 00:00, 2年前 , 7F
也很難做得很深
07/02 00:00, 7F

07/02 00:04, 2年前 , 8F
台股預測超準以後就不用上班了(誤)
07/02 00:04, 8F

07/02 00:10, 2年前 , 9F
推!!!
07/02 00:10, 9F

07/02 00:22, 2年前 , 10F
07/02 00:22, 10F

07/02 00:26, 2年前 , 11F
我覺得找工作還是看background knowledge比較多,建模的
07/02 00:26, 11F

07/02 00:26, 2年前 , 12F
能力強到人家願意讓你跨領域不太容易
07/02 00:26, 12F

07/02 00:53, 2年前 , 13F
洞洞版可以串出來的東西很多剩下就是用勇氣補足這樣
07/02 00:53, 13F

07/02 01:05, 2年前 , 14F
謝謝分享
07/02 01:05, 14F

07/02 02:11, 2年前 , 15F
優文推,一樓搞錯了啦
07/02 02:11, 15F

07/02 07:37, 2年前 , 16F
07/02 07:37, 16F

07/02 08:58, 2年前 , 17F
07/02 08:58, 17F

07/02 10:47, 2年前 , 18F
07/02 10:47, 18F

07/02 11:37, 2年前 , 19F
07/02 11:37, 19F

07/02 12:35, 2年前 , 20F
現實有上線的產品,其實重點都不在 kaggle 或是debug工具
07/02 12:35, 20F

07/02 12:35, 2年前 , 21F
程式。 你根本沒有 kaggle漂亮的資料。
07/02 12:35, 21F

07/02 12:39, 2年前 , 22F
我都很怕遇到發論文強,或者比賽強,到真實世界,卻只剩各
07/02 12:39, 22F

07/02 12:39, 2年前 , 23F
種技巧的人。
07/02 12:39, 23F

07/02 13:52, 2年前 , 24F
看要找什麼level的人啊 還真沒聽過有kaggle成績背書會變
07/02 13:52, 24F

07/02 13:53, 2年前 , 25F
成一種包袱
07/02 13:53, 25F

07/02 13:55, 2年前 , 26F
實務上就是面試時,我說我都自組團打kaggle耶
07/02 13:55, 26F

07/02 13:55, 2年前 , 27F
面試官:喔
07/02 13:55, 27F

07/02 13:56, 2年前 , 28F
並不是說不加分,不過實務上真的看公司了&面試官了
07/02 13:56, 28F

07/02 13:56, 2年前 , 29F
我會說還要五年。等我們這批人有辦法爬上那個位置
07/02 13:56, 29F

07/02 13:57, 2年前 , 30F
kaggle的資料近幾年也"不乾淨"了啦XD 光清理資料
07/02 13:57, 30F

07/02 13:57, 2年前 , 31F
就是競賽流程之一
07/02 13:57, 31F

07/02 14:11, 2年前 , 32F
其實大大們說的都對,就是現實世界各種還沒跟上潮流
07/02 14:11, 32F

07/02 14:12, 2年前 , 33F
或者是說,每個拿著片段的偏誤,就認定原來就是這樣
07/02 14:12, 33F

07/02 14:12, 2年前 , 34F
就會變成很可惜。就都是工具,能善用都是能打仗
07/02 14:12, 34F

07/02 14:24, 2年前 , 35F
在entry or jr level,要看的就是對模型等知識的了解程度
07/02 14:24, 35F

07/02 14:25, 2年前 , 36F
kaggle裡的已經很hands on projects了 很好證明有該有的
07/02 14:25, 36F

07/02 14:25, 2年前 , 37F
知識能力 等要面試sr level 考量的又是其他方面了 不能否
07/02 14:25, 37F

07/02 14:26, 2年前 , 38F
認 這時再拿kaggle的經歷出來 效益沒那麼大
07/02 14:26, 38F

07/02 14:27, 2年前 , 39F
補推
07/02 14:27, 39F

07/02 21:24, 2年前 , 40F
不Lecun自己都說過要正名了,因為沒有真正unsupervise
07/02 21:24, 40F

07/02 21:26, 2年前 , 41F
07/02 21:26, 41F

07/04 15:58, 2年前 , 42F
面試時 kaggle加分有限
07/04 15:58, 42F

07/04 15:59, 2年前 , 43F
第一作者+中上會議 = 真實案例算法有效益 > Kaggle
07/04 15:59, 43F

07/04 16:00, 2年前 , 44F
只有KAGGLE的人 會需要加上小專案測試真實能力
07/04 16:00, 44F

07/05 19:04, 2年前 , 45F
推~
07/05 19:04, 45F
文章代碼(AID): #1WtTDTzQ (Soft_Job)
文章代碼(AID): #1WtTDTzQ (Soft_Job)