[評價] 108-2 陳尚澤機器學習安全特論

看板NTUcourse作者stdio2016 (stdio2016)時間5年前 (2020/09/17 20:46)推噓4(4推 0噓 0→)

留言4則, 4人參與討論串1/1

※ 本文是否可提供臺大同學轉作其他非營利用途？（須保留原作者 ID）（是／否／其他條件）：是哪一學年度修課： 108-2 ψ 授課教師 (若為多人合授請寫開課教師，以方便收錄) 陳尚澤 λ 開課系所與授課對象 (是否為必修或通識課 / 內容是否與某些背景相關) 資工所選修 δ 課程大概內容主要講解機器學習模型本身的缺陷，導致於模型可以被欺騙，或者可以洩漏隱私資料。這門課不是探討機器學習套件的安全漏洞，也不是把機器學習運用在資安檢測或攻擊上，雖然我有看到期末專題有人做針對AI防毒軟體的攻擊這裡直接貼課程網頁的內容： - Evasion attacks (i.e., adversarial examples) - Empirical defenses to evasion attacks - Theoretical analysis of adversarial examples - Certified Defenses - Poisoning attacks - Robust statistics - Confidentiality of ML models - Differential privacy - Fairness - Final project presentation 資料來源：https://www.csie.ntu.edu.tw/~stchen/teaching/spml20spring/ Ω 私心推薦指數(以五分計) ★★★★★ 想要學習資安 ★★ (請左轉計算機安全) 想要學習機器學習的原理 ★★★ (請左轉機器學習技法) 想要從反面例學習機器學習 ★★★★★ 涼度 ★ η 上課用書(影印講義或是指定教科書) 沒有教科書，因為這是新的領域老師會把他做的投影片放在NTU COOL 參考資料主要是arXiv的論文 μ 上課方式(投影片、團體討論、老師教學風格) 老師使用投影片講解，一開始老師會講3個小時，中間有下課，在學期中以後老師只講2個小時，剩下1個小時會請同學上台報論文同學的上台報告會螢幕錄影，讓同學可以線上看 σ 評分方式(給分甜嗎？是紮實分？) 作業 30% (2個) 論文閱讀心得 10% (10篇) 報論文 20% 期末專題 40% 有提案、口頭報告還有書面報告我也很好奇分數有多甜呢，因為不知道其他人的分數，但是我得到A+ ρ 考題型式、作業方式作業只有兩個，有程式題，也有手寫題。所有的作業都要用英文寫，只有口頭報告可以說中文。第1次的作業是攻擊CIFAR-10的影像辨識模型。教授提供CIFAR-10的100張圖片，我們要對這些圖片加上雜訊，使得教授訓練的模型出錯。作業需要交出加雜訊的圖片、實驗報告還有程式碼。報告必須用LaTeX寫，最多4頁，要以研討會論文的格式撰寫，可以寫用了什麼攻擊方法、訓練哪些模型、攻擊自己模型的成效如何。評分會以教授模型的精準度，還有實驗報告來評分。程式可以使用任何語言，任何開源的套件 (PyTorch、TensorFlow等)，甚至可以用專門用來攻擊神經網路的套件。第2次的作業是手寫作業，可以用Word或LaTeX寫。題目有用數學推論簡單模型的攻擊結果，還有證明differential privacy的性質。報論文採用分組報告的形式，教授會根據修課人數，決定小組的人數，總共有10 組，每個禮拜請一組報告。報告有大約50分鐘，含QA時間。報的論文是由老師指派的，有3到4篇，可以在口頭報告時比較各論文的優劣。報告完以後，報告的小組要交出報告用的投影片，還有螢幕錄影。要小心即使報論文時100%的解釋論文的研究結果，老師還是會批評你們，因為老師期待同學們可以提出論文的弱點以及改進方法。論文評論(reading critique)每週要寫一篇，是由老師每週指派要閱讀的論文，通常有3~4篇，選擇一篇來閱讀，並寫出心得。心得必須包含論文的優勢和劣勢，內容只需要一頁。論文評論總共要寫10篇，如果當週要報論文，那這週可以不用寫評論。期末專題的題目是課程範疇的延伸，可以攻擊神經網路、對攻擊進行防守、還有利用機器學習的缺陷來做有趣的應用。期末專題使用和報論文一樣的分組，所以要好好培養組員的感情。基本上書面報告的格式就是研討會的格式，要用LaTeX寫，最多6頁，口頭報告只有25分鐘講解加5分鐘QA。如果想不到期末可以做什麼，我可以給你們參考：我們的期末專題是攻擊抽取音樂人聲的程式，因為我的實驗室剛好是處理音樂的。 ω 其它(是否注重出席率？如果為外系選修，需先有什麼基礎較好嗎？老師個性？加簽習慣？嚴禁遲到等…) 我本人覺得一週一次的論文評論讓我很痛苦，因為教授要求用英文寫，而我連中文都有點詞不達意，英文更需要我不斷的Google文法，確認我沒有寫錯。這門課是新開的課，在我上學期修的時候名額沒有滿，所以沒有遇到加選的問題，但是這學期很多人修，不知道加選怎麼進行。教授是新來的，所以這門課沒有助教，有問題要寫信問教授。教授不會點名，但是因為每個人都要報論文，所以要記得自己組的報告時間。這門課假設大家對機器學習的套件已有相當認識，而且知道神經網路的運作原理，所以如果不熟悉的話，可以去修機器學習技法(我是同時修那門課)。 Ψ 總結這門課很硬！每週一篇心得，有期末專題，加上全部都要用英文寫，讓我一週要花10個小時在課程上面。也許是因為教授是新來的吧，聽說新來的教授都會很認真。這門課不是平常的資安課，所以如果只想碰資安，不想碰機器學習的話，就趕快讓出名額吧。這門課也不是用AI做防毒軟體、漏洞搜尋、攻擊偵測…等。雖然這些主題還是可以作為期末專題啦，但是恐怕這些主題並沒有任何我知道的課會教，我只能建議去修計算機安全加機器學習的課。我只是想讓我的腦袋可以容下AI的思維，所以才修各種機器學習的課，就發現這門新開的課。新開的課沒有人評論，那我就可以評論。同時這是我第一次在 NtuCourse版發文，如果有什麼遺漏的可以求我補上。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.91.55 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/NTUcourse/M.1600346763.A.DF0.html ※ 編輯: stdio2016 (140.112.91.55 臺灣), 09/17/2020 20:52:20 ※ 編輯: stdio2016 (140.112.91.55 臺灣), 09/17/2020 20:54:03

推

kyrie77

09/17 21:18, 5年前 , 1^F

09/17 21:18, 1^F

推

unmolk

09/17 21:35, 5年前 , 2^F

09/17 21:35, 2^F

推

s3131212

09/18 03:08, 5年前 , 3^F

09/18 03:08, 3^F