Re: [心得] AIA 台灣人工智慧學校-技術領袖班
在我想要學AI的時候,並沒有AIA這個選項。我想跟大家分享的是去年自學的經驗。
我上的第一門課是 Udactiy 的 Intro to Machine Learning
https://www.udacity.com/course/intro-to-machine-learning--ud120
跟吳恩達在 Coursera上面的Machine Learning的課比起來,Udacity更平易近人些,
教材的製作也比較用心。另一方面,這個課程裡面程式練習是用MATLAB/Octave,我覺得
日後不實用,所以這課程我聽了一兩堂就沒繼續了。
Udacity的課讓我驚為天人,因為實在安排得太好,我常常是影片看得欲罷不能。最後兩周
就把這個課程上完了。
後來對於深度學習實在是很感興趣,於是付費上了Udacity的深度學習課程
https://www.udacity.com/course/deep-learning-nanodegree--nd101
這個是很紮實的課,有講理論,給方程式,也要求實作。第一個專題是用numpy做一個
multi-layer perceptron。裡面的activation function還有back propagation都必須要
自己。這對於理解神經網路是個非常好的練習。後面的專題還有CNN, RNN等。這個課
讓我對於深度學習有了很紮實的基礎的理解。
接下來我上了Coursera上面 deeplearning.ai的前四個課程。
https://www.coursera.org/specializations/deep-learning
吳恩達對於理論的講解比較深入,也講了不少在做深度學習專案的時候一些實際的技巧。
我覺得在上了Udacity的課,會實作之後,再上吳恩達的課比較好。因為要先會做了,才有
辦法透過對理論的更進一步了解來讓自己的技術精進。
後來因為我想要對於電腦視覺的部分繼續加強,所以上了Udacity的自駕車課程
https://www.udacity.com/course/self-driving-car-engineer-nanodegree--nd013
這個課程裡面講傳統影像處理的技巧,也講深度學習。專案是在處理他們取的實際的道路
影像。有用到傳統影像處理加上機器學習的方法,也有用深度學習的方法。我覺得是非常
好的應用的練習。我只完成了第一部分的課程,因為第二部分要開始用C++,這對我來說
實在太難,而且我也沒有打算要成為一位自駕車工程師。
後來因為自己開始做了一些醫療影像的AI,還想要再繼續精進技術,我再上了Udacity上
電腦視覺的課程
https://www.udacity.com/course/computer-vision-nanodegree--nd891
裡面的project比較不一樣,有keypoint localization, image captioning, SLAM等這種
比較不常見的課程,我覺得對於充實技能還算是滿有幫助的。也因此學了PyTorch
我實在是太愛 Udacity了,最近正在上的課是 Reinforcement Learning
https://www.udacity.com/course/deep-reinforcement-learning-nanodegree--nd893
這個就難了許多,現在正在掙扎中。不過我覺得課程安排得真的是很不錯。
後來我自己把這些自學的經驗整理成了教材放在這邊:
https://github.com/joe-of-all-trades/deep-learning-cv
整理教材的過程當中又進步了不少,因為必須要把這些觀念不斷地咀嚼。
有一個我沒有完成的課程,因為實在是相當困難。我認為對AI的研究有興趣的人應該要
完成的課程。這是由Geoffrey Hintony在Coursera上面開的課:
https://www.coursera.org/learn/neural-networks
以上。分享我自學的過程。我覺得就算不參加學校,還是有機會可以學到一些AI技巧的。
我很喜歡自學,也很樂意讓自學有成的人到我們公司來試試。
祝大家AI學習順利。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.162.47.226
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1542726597.A.77D.html
推
11/20 23:29,
5年前
, 1F
11/20 23:29, 1F
推
11/20 23:29,
5年前
, 2F
11/20 23:29, 2F
→
11/20 23:32,
5年前
, 3F
11/20 23:32, 3F
我很希望能找到深度學習實戰經驗豐富的人。但這樣的人才真的是大家都在搶啊...
不求對於理論有深刻的理解,但希望是有很多實務經驗的人。
我覺得這是教育課程非常重要的一環,必須要有大量的業界的資料可以讓學員練習。
推
11/20 23:33,
5年前
, 4F
11/20 23:33, 4F
推
11/20 23:40,
5年前
, 5F
11/20 23:40, 5F
推
11/20 23:52,
5年前
, 6F
11/20 23:52, 6F
推
11/21 00:00,
5年前
, 7F
11/21 00:00, 7F
推
11/21 00:34,
5年前
, 8F
11/21 00:34, 8F
推
11/21 00:55,
5年前
, 9F
11/21 00:55, 9F
→
11/21 00:55,
5年前
, 10F
11/21 00:55, 10F
→
11/21 00:56,
5年前
, 11F
11/21 00:56, 11F
推
11/21 00:58,
5年前
, 12F
11/21 00:58, 12F
→
11/21 00:58,
5年前
, 13F
11/21 00:58, 13F
推
11/21 01:38,
5年前
, 14F
11/21 01:38, 14F
推
11/21 01:41,
5年前
, 15F
11/21 01:41, 15F
→
11/21 01:43,
5年前
, 16F
11/21 01:43, 16F
→
11/21 01:47,
5年前
, 17F
11/21 01:47, 17F
→
11/21 01:49,
5年前
, 18F
11/21 01:49, 18F
→
11/21 01:50,
5年前
, 19F
11/21 01:50, 19F
Nanodegree program的好處是 1)因為有付費所以自己會有進度壓力 2)課程穿插了小練習
,有sample code,而且sample code裡面就實現了課程裡面講的數學概念。這對我來說是
價值最高的,因為看到數學概念在程式上面的實踐對理解原理來說很重要。
DRLND到目前為止我覺得還可以,講到的一些概念都可以看到在程式碼上的實踐。之前我有
在看 UC Berkeley 的CS294。CS294講得很好,但是我覺得在作業的方面會因為沒有辦法
跟助教互動,如果遇到問題比較難解決。Udacity的課其實都先提供了很多sample code在
提示你了,會輕鬆一些。對我來說,因為沒有很多時間完全從頭學,這是研究生才有辦法
這樣做。先給我一些程式碼提示一下幫助學習,我覺得對我來說讓學習的速度快了很多。
如果很有時間的話,我其實會推薦先看CS294,他其實也有作業放在網路上,也有學生把
他們自己的答案放上去。
Udacity課程另一個好的地方是,他做了 Unity Simulator,讓你作業的時候覺得很有趣。
這個是在自駕車第一學期的課程感受到的。我可以自己用這個模擬器開車,然後教CNN開,
我一邊自己在學,一邊在教深度神經網路,這對我來說是個很新鮮有趣的學習經驗,也讓
我非常有動力。我想Udacity在做線上補習班這件事情是做得滿不錯的。至少我沒有看到
做得比他更好的。
Udacity的mentor制度就不是那麼好了,我遇到的幾個其實都不太能解決我遇到的問題。
我想這還是回到基本的問題吧,AI的人才很缺,真有能力解決問題的人應該不太可能會
擔任助教。這還是要在大學系統裡面會做得比較好。
推
11/21 01:58,
5年前
, 20F
11/21 01:58, 20F
→
11/21 04:07,
5年前
, 21F
11/21 04:07, 21F
→
11/21 04:08,
5年前
, 22F
11/21 04:08, 22F
推
11/21 04:27,
5年前
, 23F
11/21 04:27, 23F
→
11/21 04:28,
5年前
, 24F
11/21 04:28, 24F
→
11/21 04:28,
5年前
, 25F
11/21 04:28, 25F
→
11/21 04:29,
5年前
, 26F
11/21 04:29, 26F
→
11/21 04:29,
5年前
, 27F
11/21 04:29, 27F
推
11/21 06:02,
5年前
, 28F
11/21 06:02, 28F
→
11/21 06:02,
5年前
, 29F
11/21 06:02, 29F
推
11/21 07:53,
5年前
, 30F
11/21 07:53, 30F
推
11/21 12:40,
5年前
, 31F
11/21 12:40, 31F
→
11/21 12:40,
5年前
, 32F
11/21 12:40, 32F
我認為Udacity課程的出發點就是要教你在業界工作時會用到的東西,數學只要有基礎就好
我覺得這樣的分量剛好讓你開始可以有些了解,可以對於模型稍做修改,又不會多到覺得
受不了。至少對我這樣並不是受正統訓練的人來說,學習不會有太大的障礙。
想要多知道一點數學,網路上有很多資料。我也買了 Learning from Data 這本書來參考
https://work.caltech.edu/telecourse
推
11/21 15:07,
5年前
, 33F
11/21 15:07, 33F
推
11/21 16:26,
5年前
, 34F
11/21 16:26, 34F
推
11/21 17:42,
5年前
, 35F
11/21 17:42, 35F
→
11/21 18:39,
5年前
, 36F
11/21 18:39, 36F
一個課程是六百或八百美金,我目前上的所有課程大概花了我將近三千美金。
我覺得我收獲的,是我投入的幾十倍。我的想法很簡單,我想要學AI,就我目前寫程式
的能力,以及我所能投入的時間跟金錢的成本,我是不是有更好的選擇?
這樣一想,我就毫不猶豫地選擇我上過的這些課程了。如果我有時間,我會一個一個的上
,上到沒有課可以上為止。
因為上了這些課,我們公司才有機會變成今天這樣子。我認為非常值得。
推
11/21 23:58,
5年前
, 37F
11/21 23:58, 37F
推
11/22 00:17,
5年前
, 38F
11/22 00:17, 38F
※ 編輯: Voldemort (1.162.47.226), 11/22/2018 00:57:19
推
11/22 02:52,
5年前
, 39F
11/22 02:52, 39F
→
11/22 02:53,
5年前
, 40F
11/22 02:53, 40F
→
11/22 02:54,
5年前
, 41F
11/22 02:54, 41F
推
11/22 17:49,
5年前
, 42F
11/22 17:49, 42F
→
11/22 17:50,
5年前
, 43F
11/22 17:50, 43F
→
11/22 17:50,
5年前
, 44F
11/22 17:50, 44F
→
11/22 17:52,
5年前
, 45F
11/22 17:52, 45F
推
11/23 03:44,
5年前
, 46F
11/23 03:44, 46F
我念了一些論文,也看了很多免費教材。我覺得學習最有效率的還是在Udacity上面。
Udacity的課程的好處之一是他把方程式整理過了,而且大又清楚的字體在影片裡面呈現,
同時會有另外寫的文字說明。
Udacity有設立Slack討論群,課程助教會固定時間在上面回答問題,同學也可以互相討論
還有另外類似Stackoverflow的課程問題網站。這些討論群組我認為價值也很大。有時候
寫作業遇到的問題在這邊討論比較快可以得到解答。
每一個學生還會被分配一個個人的Mentor,不過我個人的經驗是mentor不太能解答問題,
不如討論群組。
我是在Udacity一推出這些課程的時候就上了,那時比較便宜。600鎂一個課程。
Black Friday的確是有限時15% off的優惠。
講直接一點,Udacity就是個補習班。他把課程教材整理得很好,讓你可以學得快一些。
他的缺點也就是補習班的缺點,有些理論的地方教得不夠深。上完Udacity的課應該沒有
辦法做學術研究。
→
11/23 13:15,
5年前
, 47F
11/23 13:15, 47F
推
11/24 15:18,
5年前
, 48F
11/24 15:18, 48F
※ 編輯: Voldemort (1.162.53.136), 11/25/2018 11:58:37
→
01/17 20:38, , 49F
01/17 20:38, 49F
討論串 (同標題文章)
完整討論串 (本文為第 7 之 12 篇):