[訴訟] Deepfake將影響未來訴訟與司法程序
本文將細談於2017年開始被討論的「深度開源學習技術、GAN、CycleGAN、conditional GAN、big GANs、Pix2Pix、deepmind......」等新的人工智慧技術，並延伸聯想與討論對於訴訟市場之影響。
2017年一位暱稱deepfakes的美國網友，上傳一段假造的Gal Gadot成人電影，引起相當多的討論，不論是擔憂此技術（「眼見不一定為真」）、或者感到興奮（有很多具有商業價值的新應用）。而本文並非要討論技術核心、或者研究這些名詞定義，單純提早提醒各位讀者或網友：這些技術可能對你未來的個人生活、工作領域都有產生重大影響！這類由各式程式語言、人工智慧技術所快速且低成本產生的偽變造影像，目前統稱為deepfake（或deepfakes）。
https://i.imgur.com/4AAjAb3.jpg
男演員Steve Buscemi的五官套用在女演員Jennifer Lawrence臉上之動態影像，非專業人士根本無法辨認出破綻。
https://i.imgur.com/AhZXRJK.jpg
一位美國喜劇演員為了凸顯此技術在世界發展的憂慮，用比較戲謔的方式、以喜劇呈現deepfake的效果（用演員本身的臉部變化、嘴形、語氣，去『製造』出歐巴馬講話的假影像）：
https://goo.gl/Z2zeUC
除了動態的影音以外，目前的人工智慧技術也可以自動生成「修改過」但「合理」的照片：例如將棕馬改為斑馬，未來已經不需人為、耗時慢慢使用photoshop等影像處理軟體去修改照片了。因此未來假訊息的製造速度，將會以等比級速、無法追上、也澄清不了的速度去發展。
https://i.imgur.com/fZjJRWu.jpg
另個更強技術則是由程式自動搜尋網路上適合的素材，「憑空」創造出新的影像，例如下張圖內有15張狗照片，裡面有一張是「人工智慧產生的、世界上並不存在」的狗，請問讀者看得出是哪一張嗎？
https://i.imgur.com/r0CJlag.jpg
這幾年可於手機或平板電腦下載相關的美肌、變臉app，在概念與邏輯上，就已經算是基礎的影像開源學習與編輯技術了。隨著技術門檻越來越低，未來一般人藉由付費或免費軟體去製作出deepfake影像、以假亂真的機率將越來越大！
最常爭議的性侵、家暴等私密空間犯罪的調查，相當依賴影音證據，假若未來deepfake技術與軟體俯拾即是時，則「實際上有性侵，但加害者偽變造影音，『證明』該次性行為屬對方積極同意或消極不反對」脫罪、反之也可能「實際上無性侵，但其中一方刻意製造出疑似性侵的影音對白呼救橋段」構陷另方。更擴大聯想與延伸，會議室內的契約談判、家屬間的錄音錄影遺囑，未來偽變造機率都大增。其他諸如公然侮辱、強制、恐嚇、性騷擾……等情狀都可能無中生有、或抹除相關影像。
民眾或公眾人物於公開場合的演講，假若現場還有其他人同時錄影，未來有機會互相比對，也許降低了針對「公開場合」說話的deepfake可能性；但這樣的場合，終究並非隨時存在，我們生活中、多數時候所面對的環境，都屬於人類記憶難以細膩回想（你會記得上週三午餐跟同事聊過什麼？當下穿什麼衣服嗎？）、或者私密空間。所以有心人利用deepfake上下其手的空間，將會非常大。關於訴訟或司法程序，除了上述的民刑家事案件以外，在某些前置程序、例如刑案調查，假若承辦人員面對畸形的績效壓力、或者心態走偏了，也可能會產生陷害民眾以自利的動機。別說不可
能，近年已經發生多起警察濫查民眾個資、栽槍栽毒、甚至竄改民眾電磁記錄加以構陷的事件了……所以deepfake不只發生在當事人間，也可讓國家機器「吃人」。
（完整原文請至「紅鶴老爸陣線」：https://goo.gl/aJFYSA ）
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.45.252.244
※ 文章網址: https://www.ptt.cc/bbs/Divorce/M.1549387063.A.C6D.html
※ 編輯: Flamingos (114.45.252.244), 02/06/2019 09:42:41
噓
02/12 13:29,
5年前
, 1F
02/12 13:29, 1F