[評價] 107-2 陳尚澤機器學習安全特論

看板NTUcourse作者wextra (Wextra)時間5年前 (2020/09/26 17:18)推噓3(3推 0噓 1→)

留言4則, 3人參與討論串1/1

※ 本文是否可提供臺大同學轉作其他非營利用途？（須保留原作者 ID）（是／否／其他條件）：是哪一學年度修課： 108-2 ψ 授課教師 (若為多人合授請寫開課教師，以方便收錄) 陳尚澤 λ 開課系所與授課對象 (是否為必修或通識課 / 內容是否與某些背景相關) 資訊工程學研究所，二類加簽最好要有機器學習與深度學習的背景要會基本的package, 像是pytorch or tensorflow 這門課的內容會假設你以上的東西都已經會了或是有相關經驗 δ 課程大概內容 Evasion attacks (i.e., adversarial examples) Empirical defenses to evasion attacks Theoretical analysis of adversarial examples Certified Defenses Poisoning attacks Robust statistics Confidentiality of ML models Differential privacy Fairness Ω 私心推薦指數(以五分計) ★★★★★ 推薦指數 ★★★★★ 甜涼度 ★★★★ 想學東西 ★★★★★ 想混 ★ η 上課用書(影印講義或是指定教科書) 很新的領域，多半是讀paper 老師會自編講義，內容也多是取自paper跟自己的研究/理解 μ 上課方式(投影片、團體討論、老師教學風格) 老師開學第一堂課就會介紹課程讓大家不要對這門課有錯誤的幻想XD 在現在這個ML/DL氾濫的時代， ML/DL model的robustness便顯得非常重要，例如假設我們設計出了一個準確率99%的圖片辨識model 現在我們在新進的圖片上都加上特殊的noise model的預測很可能就只剩下不到50%的準確率這個對自駕車來說是非常危險的，也因此attack / defense在這個大AI時代有其無可取代的重要性這門課的進行方式滿特別的，也難怪他叫特論吧每週上課前要從老師指定的paper list中挑一篇讀，並寫成critique，內容包含summary還有paper強在哪、弱點在哪，有哪些問題然後當週上課的內容則是包含paper list的paper內容與其相似的主題因為這個領域瞬息萬變，所以這樣的課程安排方式還滿合理的老師上課就是用自編的投影片上課然後因為老師本身PHD就是做這塊所以可以聽到這個領域的一些八卦滿好玩的不過可惜的是因為這門課沒有考試作業不一定要上過課才寫得出來所以出席率還滿慘的... 但老師很認真也很有熱忱我跟我朋友去找他下課他都願意多留下來二三十分鐘跟我們討論 σ 評分方式(給分甜嗎？是紮實分？) Homework: 30% (15% x 2) Reading critique: 10% Paper presentation: 20% Project: 40% |_ Proposal (5%) |_ Presentation (15%) |_ Final report (20%) 應該是扎實甜吧作業做完應該就有大部分的分數，過"老師自己設的private baseline"就拿得到剩下的作業分數 [DISCLAIMER] 我自己在這堂課還滿認真的，規定一頁的critique總是覺得空間不夠還特別寄信問老師能不能寫1.5~2頁作業要求設計attack演算法，大多數人都只用了PGD，我實作了3篇paper的內容，然後做微調 Final Project也是手刻了一個小framework 不過純看配分來說，應該是該做的有做就至少有A吧要做好每週看一篇一個完全不懂領域的最新paper的準備但這其實也沒很難，老師的介紹順序也是有設計過的，所以不用太擔心 ρ 考題型式、作業方式沒有考試，只有一個Paper Presentation跟一個Final Project Paper presentation的部分不難，就是找一個主題然後看好幾篇paper 然後整理出來報給大家聽，我們自己是看了5~6篇paper才做出一個完整的脈絡 Final project的部分，選擇一個這個領域的open problem 試著用這學期學到的新技巧來解他或是改善現有演算法滿可惜的是時間短比較難解什麼太難的問題但期末還是可以看到大家報的主題五花八門還有各種不同的應用也是滿好玩的 ω 其它(是否注重出席率？如果為外系選修，需先有什麼基礎較好嗎？老師個性？加簽習慣？嚴禁遲到等…) 不點名，我們這年因為疫情所以有錄影(舒服) 每週要看paper雖然不難但是就是卡著一件事情在那 [A 除此之外沒什麼太麻煩的事 Ψ 總結輕鬆愉快又學得到東西的好課，輕鬆中穿插每週的critique，無形中都不斷地push我們學習所以其實就算沒上課也會對這個領域有很非常淺且基本的認識作業是實際attack / defense (原定) 在一個小型dataset (ex: CIFAR-10) 也滿好玩的老師以前是台大純血的學生，也經是軒田跟守德教出來的輝煌的經歷目不暇給剛從Georgia Tech PHD畢業就被找回來當教授真的很強能跟大師學習討論的機會真的滿難得的哈哈今年時段跟基石衝堂所以修課人數慘烈寫個介紹文幫補血QQ 總之很推薦大家來修想到什麼再補充 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.160.92.197 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/NTUcourse/M.1601111899.A.6CA.html

推

kyrie77

09/26 18:01, 5年前 , 1^F

09/26 18:01, 1^F

推

oToToT

09/26 20:58, 5年前 , 2^F

09/26 20:58, 2^F

→

oToToT

09/26 20:59, 5年前 , 3^F

09/26 20:59, 3^F