Re: [問題] 各大圖站真的沒辦法防止AI洗圖嗎？

看板C_Chat作者 (大胸智乃)時間1年前 (2022/10/18 18:30), 1年前編輯推噓30(31推 1噓 55→)
留言87則, 33人參與, 1年前最新討論串7/7 (看更多)
如果AI軟體生圖時可以額外加上數位浮水印去做辨識 不是圖片上面直接蓋上Generated by xxxxxAI或是簽章這種很明顯的 而是用傅立葉變換(例如DFT、DCT)將圖片轉換成頻譜圖，再將浮水印蓋上去 最後將修改過的頻譜圖還原回原圖，這方式俗稱數位浮水印 這是其中一個github上的repo，裡面的示範很好懂 https://github.com/guofei9987/blind_watermark/blob/master/README_cn.md 修改過的原圖以肉眼看十分正常 列印出來或是用螢幕看都和原圖幾乎沒有差別 但只要有電子檔就可以丟回去跑傅立葉變換，頻譜圖出來一刀斃命 頻譜圖上的浮水印也不是那麼簡單就可以去除，所以幾乎是萬無一失 就算你將原圖做修圖或是破壞性裁切也能還原出浮水印 除非你直接用相機拍下螢幕(genius) 這技術在台灣好像比較少人討論，但中國企業曾經出現用這種原理抓內鬼的方式 實際可以用的軟體已經有人用Python寫出來了，叫做blind-watermark 上面的github repo就是其中一個解決方案 這篇中國的技術解說文比較詳細，包含各種攻擊方法都有列出 答案:阿里巴巴公司根據截圖查到洩漏訊息的具提員工的技術是什麼? https://www.zhihu.com/question/50735753 (中國網站，不喜勿入) 要是能達成共識，公開的AI製圖軟體都用類似的方式嵌入浮水印 然後P網之類的插圖交流網站也能導入自動偵測，強制將其分類為AI tag 如此就能解決當前一大半的AI圖洗板問題 不過不知道每一張圖都要算FFT會不會讓伺服器過載，還有請高人解說 但這又會出現灰色地帶的營利方式 例如會有人提供以付費解鎖的方式提供不嵌入浮水印的AI製圖軟體 或是付費解鎖無浮水印版圖片(THE "僅供學術使用") ========================== 簡單來說數位浮水印的可行性是最高的(因為這是早就已經有的技術) 算出來的圖片也幾乎無法偽造、竄改，只要原圖還在就能辨識出來 當然這就只是一個方案而已，看有沒有隱匿性更高的浮水印 畢竟現在沒有任何強制性的規範要你做防盜 唯一繞過的方式就上面提到的AI不去嵌入數位浮水印(這就幹話) 下面有鄉民提出可以再將圖片丟進不加浮水印的AI，這也是一個破解方法 但截圖、調整大小、破壞性裁切是沒有辦法破解的 下面鄉民有提到stablediffusion預設是會加上浮水印 避免AI用AI算出來的圖去學習，這個出發點也不錯 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.173.161.139 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1666089026.A.4E1.html
推
10/18 18:31, 1年前 , 1F
繞過
10/18 18:31, 1F
推
10/18 18:33, 1年前 , 2F
會不會出現破解數位浮水印的軟體？
10/18 18:33, 2F
推
10/18 18:33, 1年前 , 3F
除非有立法 否則哪間公司那麼無聊自己加浮水印
10/18 18:33, 3F
推
10/18 18:35, 1年前 , 4F
縮放大小就破壞掉浮水印了？
10/18 18:35, 4F
→
10/18 18:35, 1年前 , 5F
重點也的確是規範使用者啊 目前最需要的
10/18 18:35, 5F
推
10/18 18:35, 1年前 , 6F
可以偵測，那就可以刪除了啦
10/18 18:35, 6F
→
10/18 18:36, 1年前 , 7F
除非解的方式非常麻煩 不然一定會有自動化工具的
10/18 18:36, 7F
推
10/18 18:37, 1年前 , 8F
FFT算起來很快的 如果廠商有意願就可以做
10/18 18:37, 8F
→
10/18 18:37, 1年前 , 9F
再img2img就好10秒破解
10/18 18:37, 9F
推
10/18 18:37, 1年前 , 10F
這技術存在很久了，可能有20年了
10/18 18:37, 10F
→
10/18 18:38, 1年前 , 11F
知乎那篇有示範伸縮攻擊了，這個就是縮放
10/18 18:38, 11F
推
10/18 18:38, 1年前 , 12F
等真實繪師折損的差不多才會反思然後做出協定啦
10/18 18:38, 12F
推
10/18 18:39, 1年前 , 13F
i2i 能防？
10/18 18:39, 13F
推
10/18 18:39, 1年前 , 14F
拿沒浮水印的AI重繪不就好了
10/18 18:39, 14F
→
10/18 18:42, 1年前 , 15F
現在AI算圖進步得很快，要是最新的版本生出一個騷圖
10/18 18:42, 15F
→
10/18 18:42, 1年前 , 16F
但新版有浮水印，你用舊版下去跑這圖就不騷了阿
10/18 18:42, 16F
推
10/18 18:42, 1年前 , 17F
不懂原理 好奇螢幕截圖能破解嗎
10/18 18:42, 17F
→
10/18 18:43, 1年前 , 18F
這只是範例而已，拋磚引玉，看有沒有高手能提供隱藏性
10/18 18:43, 18F
→
10/18 18:43, 1年前 , 19F
更高的手法，FFT能做的範圍太大了
10/18 18:43, 19F
→
10/18 18:43, 1年前 , 20F
直接print screen無法破解
10/18 18:43, 20F
推
10/18 18:46, 1年前 , 21F
問題是AI網站幹嘛理你？
10/18 18:46, 21F
推
10/18 18:47, 1年前 , 22F
直接丟進另一個auto encoder 出來以後還會在嗎
10/18 18:47, 22F
→
10/18 18:47, 1年前 , 23F
或者乾脆就用某些人最愛說的拼貼重新拼一次
10/18 18:47, 23F
→
10/18 18:47, 1年前 , 24F
我也沒說AI網站一定要理我啊，so what
10/18 18:47, 24F
→
10/18 18:49, 1年前 , 25F
就是一個方案而已，如果程式碼開源那也能直接關掉
10/18 18:49, 25F
推
10/18 18:50, 1年前 , 26F
如果要純討論技術JPG壓縮有機會把雜訊濾掉，所以經過世代
10/18 18:50, 26F
→
10/18 18:50, 1年前 , 27F
推移，AI就會變成真的(?
10/18 18:50, 27F
推
10/18 18:52, 1年前 , 28F
這個只能嚇沒看過的人 你都知道訊息藏在頻率空間了
10/18 18:52, 28F
→
10/18 18:52, 1年前 , 29F
傅立葉變換完把雜訊加在頻率空間就蓋掉了
10/18 18:52, 29F
→
10/18 18:53, 1年前 , 30F
只能釣魚而已 對銷售跟防盜一點用也沒 有用yt fb早用了
10/18 18:53, 30F
推
10/18 18:53, 1年前 , 31F
這招在企業用很危險吧，浮水印抹不掉的話，那印上去的是
10/18 18:53, 31F
推
10/18 18:53, 1年前 , 32F
如果別人知道就能消掉啊 你能加頻域浮水印
10/18 18:53, 32F
→
10/18 18:53, 1年前 , 33F
另外經過user之手的任何資訊都不能相信，這在搞下去只能用
10/18 18:53, 33F
→
10/18 18:53, 1年前 , 34F
數位簽章，但也只能證明出自誰，無法證明是不是AI
10/18 18:53, 34F
→
10/18 18:53, 1年前 , 35F
公司機密也可以了吧
10/18 18:53, 35F
→
10/18 18:54, 1年前 , 36F
當然就可以加頻域雜訊消去浮水印 而且你最後一句非常奇
10/18 18:54, 36F
→
10/18 18:54, 1年前 , 37F
妙，什麼叫做 AI 製圖軟體「最後」不嵌入數位浮水印
10/18 18:54, 37F
→
10/18 18:54, 1年前 , 38F
目前沒聽過任何一家 AI 有決定要做頻域浮水印吧
10/18 18:54, 38F
→
10/18 18:55, 1年前 , 39F
你講得好像是目前已經有浮水印只怕 AI 公司最後拿掉一樣
10/18 18:55, 39F
→
10/18 18:55, 1年前 , 40F
我從來就沒有說一定必須用這個方法，就提出一個方案而已
10/18 18:55, 40F
→
10/18 18:56, 1年前 , 41F
但確實我的表達方式不好，我等等修一下內文
10/18 18:56, 41F
推
10/18 19:00, 1年前 , 42F
現在的SD其實預設是都有放數位浮水印的喔
10/18 19:00, 42F
推
10/18 19:01, 1年前 , 43F
沒法規就很難叫廠商自我規律...更別說源碼也散了
10/18 19:01, 43F
推
10/18 19:04, 1年前 , 44F
真的有耶 抱歉 是我自己沒查清楚就想當然亂講
10/18 19:04, 44F
→
10/18 19:04, 1年前 , 45F
現在的 SD 預設就是有一個 "StableDiffusionV1" 的頻域
10/18 19:04, 45F
→
10/18 19:05, 1年前 , 46F
浮水印 當然你可以關掉就是了
10/18 19:05, 46F
噓
10/18 19:06, 1年前 , 47F
廠商幹嘛理你，可能的是能自行選擇要不要上浮水印而已
10/18 19:06, 47F
推
10/18 19:07, 1年前 , 48F
其實就算強迫放 你一個png轉jpg就沒了
10/18 19:07, 48F
用頻域放浮水印的方式知乎有做測試，破壞性壓縮是沒辦法破解的 不過stablediffusion的出發點確實不錯，可以避免AI用AI算出來的圖來學習
→
10/18 19:09, 1年前 , 49F
反正目前的發展只會有繪師受害，這是科技發展必要犧牲~
10/18 19:09, 49F
→
10/18 19:12, 1年前 , 50F
明明就可以轉型成為會使用ai的繪師
10/18 19:12, 50F
推
10/18 19:16, 1年前 , 51F
PNG to jpg 的 Data layout 沒什麼變化的狀況下，直覺上
10/18 19:16, 51F
→
10/18 19:16, 1年前 , 52F
頻域的資料應該也不太會有變化啦
10/18 19:16, 52F
→
10/18 19:16, 1年前 , 53F
但 Training Dataset 除非每一個 Dataset 都有一模一樣的
10/18 19:16, 53F
→
10/18 19:16, 1年前 , 54F
浮水印，不然被 diffusion 完一樣沒辦法在成品上找到端倪
10/18 19:16, 54F
→
10/18 19:16, 1年前 , 55F
ㄅ?
10/18 19:16, 55F
→
10/18 19:23, 1年前 , 56F
其實就是優越感吧 完全不會畫畫的人突然可以靠AI創造作品
10/18 19:23, 56F
→
10/18 19:23, 1年前 , 57F
就會瘋狂地到處發AI圖 說這樣好看吧 之類的...
10/18 19:23, 57F
推
10/18 19:50, 1年前 , 58F
聽起來是可行的...但這對廠商沒有利益的話...
10/18 19:50, 58F
推
10/18 19:53, 1年前 , 59F
笑死 分享方法而已一堆人在說沒有廠商會放 本來就應該要有
10/18 19:53, 59F
→
10/18 19:53, 1年前 , 60F
辦法控管了 多一點相關的討論不好嗎
10/18 19:53, 60F
→
10/18 19:54, 1年前 , 61F
上面提到SD的出發點就很不錯，可以避免AI拿AI圖來學習
10/18 19:54, 61F
→
10/18 19:56, 1年前 , 62F
就以AI學習系統來說，可以分辨AI圖是有利無弊
10/18 19:56, 62F
→
10/18 19:59, 1年前 , 63F
延伸的話插圖網站也能去分辨是用哪個model去跑的
10/18 19:59, 63F
推
10/18 20:20, 1年前 , 64F
於是接下來有人做了個專門破壞數位浮水印的AI網站出
10/18 20:20, 64F
→
10/18 20:20, 1年前 , 65F
來（喂
10/18 20:20, 65F
※ 編輯: Cubelia (1.173.161.139 臺灣), 10/18/2022 20:46:50
推
10/18 21:47, 1年前 , 66F
但...為什麼AI繪圖公司要聽你的放浮水印?
10/18 21:47, 66F
→
10/18 22:11, 1年前 , 67F
懶得回，原因上面都有討論了
10/18 22:11, 67F
推
10/18 22:28, 1年前 , 68F
彷彿看到人力車夫的最後掙扎
10/18 22:28, 68F
→
10/18 22:44, 1年前 , 69F
這剛好是我教授叫我學弟做的論文捏 不過他主要是說DEEP
10/18 22:44, 69F
→
10/18 22:45, 1年前 , 70F
FAKE
10/18 22:45, 70F
推
10/19 00:01, 1年前 , 71F
現在AI繪圖源頭都不只一個了 到最後幾家有放浮水印 幾家
10/19 00:01, 71F
→
10/19 00:02, 1年前 , 72F
沒放浮水印 那還是回有漏網之魚阿
10/19 00:02, 72F
推
10/19 00:59, 1年前 , 73F
數位浮水印，如果知道是用哪種技術的話應該都是去得掉的
10/19 00:59, 73F
→
10/19 00:59, 1年前 , 74F
。
10/19 00:59, 74F
推
10/19 01:10, 1年前 , 75F
雜訊效果不會太好。real space浮水印用雜訊去除浮水印的
10/19 01:10, 75F
→
10/19 01:10, 1年前 , 76F
效果也很有限。但是如果用高頻浮水印，那可以用低通濾波
10/19 01:10, 76F
→
10/19 01:10, 1年前 , 77F
或頻域模糊化吧？以前也很多人不懂浮水印，不懂原來浮水
10/19 01:10, 77F
→
10/19 01:10, 1年前 , 78F
印可以有辦法去掉，隨著大眾對浮水印的理解程度上升，一
10/19 01:10, 78F
→
10/19 01:10, 1年前 , 79F
定會有人找到有效率的去除方法。
10/19 01:10, 79F
→
10/19 01:28, 1年前 , 80F
就兩種說法1.想辦法修改原圖，各種攻擊讓浮水印無法還原
10/19 01:28, 80F
→
10/19 01:29, 1年前 , 81F
2.逆向工程從頻譜去除浮水印(例如已知浮水印的添加模式)
10/19 01:29, 81F
→
10/19 01:30, 1年前 , 82F
1.就不用說，這樣圖片也不用看了
10/19 01:30, 82F
→
10/19 01:31, 1年前 , 83F
2.開源程式碼那破解法應該是有，這個就超出知識範圍了
10/19 01:31, 83F
推
10/19 04:28, 1年前 , 84F
如果不做普通傅立葉，而是Hermite-Fourier或甚至非正交、
10/19 04:28, 84F
→
10/19 04:29, 1年前 , 85F
非線性的轉換，然後保密起來，應該可以防一下？
10/19 04:29, 85F
→
10/19 04:31, 1年前 , 86F
說到去除real space浮水印，比起AI，我覺得一個macro或一
10/19 04:31, 86F
→
10/19 04:31, 1年前 , 87F
個程式更或許更好。畢竟PS的處理方式看起來非常routine。
10/19 04:31, 87F
‣ 更多 Cubelia 的文章
文章代碼(AID): #1ZJe12JX (C_Chat)
討論串 (同標題文章)
完整討論串 (本文為第 7 之 7 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共7篇)
‣ 更多 Cubelia 的文章
文章代碼(AID): #1ZJe12JX (C_Chat)