[情報] OpenAI透露正打造偵測工具 精確度99%已回收

看板C_Chat作者 (乙醯胺酚)時間2年前 (2023/10/18 16:08), 2年前編輯推噓61(62推 1噓 97→)
留言160則, 79人參與, 2年前最新討論串1/1
揪出AI造假圖片！OpenAI透露正打造偵測工具 精確度99% https://udn.com/news/story/6811/7513624 開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而 且具有很高的精確度。 OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用A I生成可達到「99%的可靠」。她說，這項工具在規劃公開發表前正在進行內部測試，沒有具 體時間表。 穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會 時提及上述說法。OpenAI旗下除了有ChatGPT，也擁有影像生成工具DALL-E。 目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具，但結果可能不精確。舉例來說， OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就 已下架，原因是「不可靠」。 OpenAI表示，正努力改善這款軟體，並致力於開發能判斷由AI生成的音檔或圖檔的方式。 關於這類偵測AI生成內容的工具需求正在增加，因為AI工具可被用來對全球事件進行操作或 製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰，承諾不創造侵害創作 者智慧財產權的內容。 ---- 人類繪師救星要來了嗎？ 那個1%的誤判 不知道是AI圖判斷成非AI圖 還是把非AI圖判斷成AI圖 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.82.128.223 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1697616517.A.BF1.html
推
10/18 16:10, 2年前 , 1F
放入coser照片掃描不知會怎樣
10/18 16:10, 1F
推
10/18 16:10, 2年前 , 2F
用魔法才能打敗魔法 只有ai才能抓ai圖
10/18 16:10, 2F
※ 編輯: KotoriCute (111.82.128.223 臺灣), 10/18/2023 16:11:24
推
10/18 16:11, 2年前 , 3F
ai正在打造反ai偵測生成圖片
10/18 16:11, 3F
推
10/18 16:11, 2年前 , 4F
再用這個工具訓練不會被辨識出來的AI -> LOOP
10/18 16:11, 4F
推
10/18 16:11, 2年前 , 5F
99%其實拿來當證據還不太適合
10/18 16:11, 5F
推
10/18 16:11, 2年前 , 6F
AI內戰
10/18 16:11, 6F
→
10/18 16:12, 2年前 , 7F
意思是你可以抓出99個沽名釣譽的騙子，同時把一個無辜
10/18 16:12, 7F
→
10/18 16:12, 2年前 , 8F
其實ai早變成免費素材生成工具了 原本就會畫的更愛
10/18 16:12, 8F
→
10/18 16:12, 2年前 , 9F
的老實繪師的名譽也一起毀掉
10/18 16:12, 9F
推
10/18 16:12, 2年前 , 10F
可是之前判斷文章的就失敗了
10/18 16:12, 10F
推
10/18 16:13, 2年前 , 11F
抱歉了1啪的繪師 請你轉行ㄅ
10/18 16:13, 11F
推
10/18 16:13, 2年前 , 12F
下一步就是ai生圖還會避免被偵測
10/18 16:13, 12F
→
10/18 16:13, 2年前 , 13F
本來就說自己會用的不受影響，但一定有宣稱自己沒用的
10/18 16:13, 13F
推
10/18 16:13, 2年前 , 14F
真.AI警察
10/18 16:13, 14F
→
10/18 16:13, 2年前 , 15F
然後狂粉和黑粉就會辛勤的全部幫你測過一輪
10/18 16:13, 15F
推
10/18 16:14, 2年前 , 16F
以後訓練生圖的AI就會把會不會被偵測放進參數
10/18 16:14, 16F
→
10/18 16:14, 2年前 , 17F
1% 繪師表示:
10/18 16:14, 17F
推
10/18 16:14, 2年前 , 18F
該學習如何串通AI了嗎
10/18 16:14, 18F
推
10/18 16:14, 2年前 , 19F
99%是要笑死人，99.9999%可能還比較保險一點。
10/18 16:14, 19F
→
10/18 16:14, 2年前 , 20F
反偵測，反反偵測，反反反偵測，沒完沒了
10/18 16:14, 20F
推
10/18 16:14, 2年前 , 21F
芙莉蓮表示:
10/18 16:14, 21F
推
10/18 16:15, 2年前 , 22F
靈魂檢測機
10/18 16:15, 22F
→
10/18 16:15, 2年前 , 23F
99%還是要開寶箱
10/18 16:15, 23F
→
10/18 16:17, 2年前 , 24F
"宣稱"
10/18 16:17, 24F
推
10/18 16:17, 2年前 , 25F
平均100張就會放一張，以AI產能來說偏弱耶
10/18 16:17, 25F
→
10/18 16:18, 2年前 , 26F
GAN(?
10/18 16:18, 26F
推
10/18 16:18, 2年前 , 27F
下一款是反AI偵測繪圖 我知道
10/18 16:18, 27F
推
10/18 16:20, 2年前 , 28F
什麼繪師一輩子只畫一張圖？
10/18 16:20, 28F
→
10/18 16:20, 2年前 , 29F
算錯一張又怎樣
10/18 16:20, 29F
推
10/18 16:21, 2年前 , 30F
算錯一張後是黑粉的事，看黑粉想要怎麼燒
10/18 16:21, 30F
推
10/18 16:21, 2年前 , 31F
1%的直接畫一張放過程就好了吧
10/18 16:21, 31F
推
10/18 16:21, 2年前 , 32F
一張就夠毀人名譽了好嗎
10/18 16:21, 32F
→
10/18 16:21, 2年前 , 33F
忘記之前多少繪師被獵巫喔
10/18 16:21, 33F
→
10/18 16:21, 2年前 , 34F
甚麼信誓旦旦的20年老粉專業繪師
10/18 16:21, 34F
→
10/18 16:22, 2年前 , 35F
另外還有對抗攻擊，真的夠黑的黑粉認識會拿你的圖加上
10/18 16:22, 35F
→
10/18 16:23, 2年前 , 36F
一些人眼看不到的細節，全部做成會讓AI警報大響的圖片
10/18 16:23, 36F
→
10/18 16:23, 2年前 , 37F
算錯一張就夠毀你名聲了好嗎
10/18 16:23, 37F
→
10/18 16:24, 2年前 , 38F
這東西最多就是當個玩具(而且已經會被有心人玩出事)
10/18 16:24, 38F
還有 82 則推文
推
10/18 17:01, 2年前 , 121F
之前防ai那個主要是肉眼可見 而且很容易去除
10/18 17:01, 121F
→
10/18 17:01, 2年前 , 122F
比你加上去還快 不過還是有優點的
10/18 17:01, 122F
→
10/18 17:02, 2年前 , 123F
神仙對決 沒有凡人介入的空間
10/18 17:02, 123F
→
10/18 17:02, 2年前 , 124F
ai圖加上防ai圖浮水印拿去測會說不是ai圖
10/18 17:02, 124F
推
10/18 17:04, 2年前 , 125F
一定會有YouTuber 交叉測試 AI狼人殺
10/18 17:04, 125F
推
10/18 17:04, 2年前 , 126F
反ai所以要拿ai來辨識ai圖
10/18 17:04, 126F
→
10/18 17:07, 2年前 , 127F
繪師真正面對的問題還是商業市場需求與創作被拿去訓練
10/18 17:07, 127F
→
10/18 17:08, 2年前 , 128F
而不是AI警察 那只是社群平台的一種固有行為 主題換成AI
10/18 17:08, 128F
→
10/18 17:09, 2年前 , 129F
罷了 所以這也無關什麼繪師救星
10/18 17:09, 129F
推
10/18 17:10, 2年前 , 130F
沒100%別拿出來害人好嗎
10/18 17:10, 130F
推
10/18 17:27, 2年前 , 131F
然後再製造一個反AI辨識AI圖片生成器
10/18 17:27, 131F
推
10/18 17:33, 2年前 , 132F
沒100%的話那個名譽被你毀掉的畫師就能把你告到脫褲
10/18 17:33, 132F
推
10/18 17:33, 2年前 , 133F
AI警察 (AI)
10/18 17:33, 133F
推
10/18 17:37, 2年前 , 134F
真正拿出來用大概8成準確度就能偷笑了
10/18 17:37, 134F
→
10/18 17:38, 2年前 , 135F
發現AI會找到不是AI的圖 於是再發明驗證AI圖找到AI圖的
10/18 17:38, 135F
→
10/18 17:38, 2年前 , 136F
AI
10/18 17:38, 136F
→
10/18 17:50, 2年前 , 137F
你居然用我的咒語對付我？
10/18 17:50, 137F
推
10/18 17:52, 2年前 , 138F
這個偵測器最大的用途之一：
10/18 17:52, 138F
→
10/18 17:52, 2年前 , 139F
讓AI圖進化到無法被辨認= =
10/18 17:52, 139F
推
10/18 19:02, 2年前 , 140F
AI警察(AI): 他是AI 懂得都懂
10/18 19:02, 140F
推
10/18 19:04, 2年前 , 141F
太好了，讓AI對決AI
10/18 19:04, 141F
→
10/18 19:10, 2年前 , 142F
AI殺一次有名的繪師，反AI再殺一次倒楣的繪師
10/18 19:10, 142F
→
10/18 19:11, 2年前 , 143F
以後沒有縮時錄影的繪師隨時都可能遭殃
10/18 19:11, 143F
推
10/18 20:00, 2年前 , 144F
只有我看成Opai偵測器嗎@@
10/18 20:00, 144F
推
10/18 20:15, 2年前 , 145F
抓錯？會畫的開直播畫一下就解決了好嗎，根本沒多少問
10/18 20:15, 145F
→
10/18 20:15, 2年前 , 146F
題
10/18 20:15, 146F
→
10/18 20:17, 2年前 , 147F
寫AI創作還算有可用的藉口，但做反偵測的真的沒有遮羞
10/18 20:17, 147F
→
10/18 20:17, 2年前 , 148F
布給這種人用
10/18 20:17, 148F
→
10/18 20:22, 2年前 , 149F
99%夠了，不用先定罪阿 可以先限制你，只要你是真的繪師
10/18 20:22, 149F
→
10/18 20:22, 2年前 , 150F
提出證明就好了，至少不用浪費大量人力時間去一一審查
10/18 20:22, 150F
→
10/18 20:49, 2年前 , 151F
PS很多功能其實是AI 不知道會怎麼樣
10/18 20:49, 151F
推
10/18 20:52, 2年前 , 152F
1%命中 不可能同繪師10張圖都被判定AI吧？
10/18 20:52, 152F
推
10/18 20:59, 2年前 , 153F
突然很多人開始關心繪師的清白了 真感動
10/18 20:59, 153F
→
10/18 21:11, 2年前 , 154F
ai狗屎老實說真的挺好分的，扭曲畸形不合邏輯的醜陋
10/18 21:11, 154F
→
10/18 21:11, 2年前 , 155F
之處太多了，真的噁心至極令人作嘔，真的完全無法容
10/18 21:11, 155F
→
10/18 21:11, 2年前 , 156F
忍容許任何一絲一毫
10/18 21:11, 156F
→
10/18 21:59, 2年前 , 157F
我有個跟隨的繪師就說自己圖丟到目前的偵測網站都被判定90
10/18 21:59, 157F
→
10/18 21:59, 2年前 , 158F
趴以上 開始懷疑自己是繪師AI了
10/18 21:59, 158F
推
10/18 23:31, 2年前 , 159F
我覺得拿來防詐騙剛好，拿來針對AI繪圖，只是降低繪
10/18 23:31, 159F
→
10/18 23:31, 2年前 , 160F
圖師的工作效率
10/18 23:31, 160F
‣ 更多 KotoriCute 的文章
文章代碼(AID): #1bBvA5ln (C_Chat)