Re: [閒聊] 我們離人工智慧的奇點已經不遠了嗎？

看板C_Chat作者 (巴納共和國)時間1年前 (2023/02/24 10:51), 1年前編輯推噓24(26推 2噓 85→)
留言113則, 18人參與, 1年前最新討論串8/11 (看更多)
想問現有技術是不是已經可以讓AI失控？ 或是AI武器化的可能？ 原文推文下有人說可以拔插頭 但是否只要拔掉幾個限制器 AI就可以遠超想像的肆虐 例如像是之前發生過：殭屍網路、騎劫挖礦 就是駭客控制大量電腦，集結成雲端算力 用以DDOS攻擊或挖礦 現在AI是在嚴格倫理規範中 才會被關在主機裡 如果有國家像是中國、俄國和伊朗 不一定這麼守倫理 讓AI 在雲端運算和儲存 成為網路裡的幽靈 加上AI自主演化的能力 只要實驗室用攻擊模型和病毒訓練AI 製作武器化的AI已經是可行的呢？ 又或者很可能已經有國家實驗室 持有這樣的大規模毀滅性AI武器了嗎？ ※ 引述《DrPaper (紙博士)》之銘言： : 2001太空漫遊 駭客任務 魔鬼終結者 : 2077電駁叛客 底特律變人 : 人類常以AI叛變當做一個題材 : 我們也一直以為這始終會是個題材 : 但在去年 我們都還認為聊天AI只會說廢話的機器人 : 但誰知道今年 橫空殺出一個CHAT GPT : 成為一個game changer : 在前年 AI繪圖也還是只能產出恐怖谷、加濾鏡的玩具 : 但在今年 已經可以畫到逼近真人的畫面了 : 我原本都把科技末日預言當笑話 : 但現在我卻不這麼想了 : 我們離人工智慧的奇點已經不遠了嗎？ : ----- : Sent from JPTT on my Samsung SM-N9750. ----- Sent from JPTT on my iPhone -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.140.123.34 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1677207081.A.20C.html ※ 編輯: BanaRepublic (223.140.123.34 臺灣), 02/24/2023 10:56:45
→
02/24 10:57, 1年前 , 1F
AI看到你的發文就安心了 自己嚇自己還需要花心思處理嗎
02/24 10:57, 1F
推
02/24 11:00, 1年前 , 2F
現在的AI不可能自己發展，就只是從資料中學習模仿而已
02/24 11:00, 2F
→
02/24 11:01, 1年前 , 3F
如果哪天有個武器AI決定把核彈砸到誰的頭上，那也只是
02/24 11:01, 3F
→
02/24 11:01, 1年前 , 4F
因為現實生活中的部分人類有表達過想把核彈砸到他頭上
02/24 11:01, 4F
→
02/24 11:01, 1年前 , 5F
你可以說這叫失控AI毀滅一個國家，但根源還是人類本身
02/24 11:01, 5F
→
02/24 11:03, 1年前 , 6F
不是嚇自己呀，就像生物上的病毒武器化
02/24 11:03, 6F
→
02/24 11:03, 1年前 , 7F
大國實驗室裡都存有武器化病毒
02/24 11:03, 7F
→
02/24 11:03, 1年前 , 8F
而我們對AI也是
02/24 11:03, 8F
→
02/24 11:03, 1年前 , 9F
超越奇點已經發生，只是被刻意關著
02/24 11:03, 9F
→
02/24 11:03, 1年前 , 10F
等意外或戰爭的那天
02/24 11:03, 10F
推
02/24 11:04, 1年前 , 11F
就是現在AI沒有指令是不會動作的 哪天ChatGpt主動找你
02/24 11:04, 11F
推
02/24 11:04, 1年前 , 12F
AI可能會造成大危機，但那沒有超越什麼，只是模仿而已
02/24 11:04, 12F
→
02/24 11:04, 1年前 , 13F
搭話 那問題才真的嚴重
02/24 11:04, 13F
→
02/24 11:04, 1年前 , 14F
「失控AI會毀滅人類」這個觀念不是人類發明的嗎？
02/24 11:04, 14F
→
02/24 11:05, 1年前 , 15F
那AI哪一天真的照抄，不也是人類的責任嗎？
02/24 11:05, 15F
→
02/24 11:06, 1年前 , 16F
就現在大家還在研究GPU/TPU怎麼做，哪種Layer比較好用
02/24 11:06, 16F
推
02/24 11:06, 1年前 , 17F
你講的這個跟最近看到的新東西沒什麼關係就是了
02/24 11:06, 17F
→
02/24 11:06, 1年前 , 18F
這一點來看，現在的AI本質跟30年前的人工智慧其實一樣
02/24 11:06, 18F
→
02/24 11:07, 1年前 , 19F
只是運算速度和學習能力可能多了千萬倍而已
02/24 11:07, 19F
→
02/24 11:07, 1年前 , 20F
這會不會提到AI學到壞東西的機率？當然會
02/24 11:07, 20F
推
02/24 11:07, 1年前 , 21F
難說,以前看各類影視動畫作品各種劇本都有,現在越來越
02/24 11:07, 21F
→
02/24 11:07, 1年前 , 22F
寫實
02/24 11:07, 22F
→
02/24 11:08, 1年前 , 23F
但是這跟「AI自己發展出惡意」還是八竿子打不著
02/24 11:08, 23F
推
02/24 11:08, 1年前 , 24F
武器的自動化是比較接近自駕車那範疇的應用
02/24 11:08, 24F
→
02/24 11:09, 1年前 , 25F
kirimaru73 我覺得一開始的目的
02/24 11:09, 25F
→
02/24 11:09, 1年前 , 26F
可能會在演化中走上歪路
02/24 11:09, 26F
→
02/24 11:09, 1年前 , 27F
例如一開始只是希望AI癱瘓對方的雷達
02/24 11:09, 27F
→
02/24 11:09, 1年前 , 28F
但AI在作戰中
02/24 11:09, 28F
→
02/24 11:09, 1年前 , 29F
自己發展出癱瘓洲際電力系統的能力
02/24 11:09, 29F
→
02/24 11:09, 1年前 , 30F
把整個區域的電網都癱瘓，無法阻止
02/24 11:09, 30F
→
02/24 11:09, 1年前 , 31F
你講的這種AI目前八字還沒有一撇
02/24 11:09, 31F
推
02/24 11:10, 1年前 , 32F
軍用基本不會有檯面訊息,不過自動探索漏洞與網路戰術
02/24 11:10, 32F
→
02/24 11:10, 1年前 , 33F
運用型我猜已經有或者正在前進中
02/24 11:10, 33F
推
02/24 11:10, 1年前 , 34F
你說的這種危險在自駕車中也有討論過，例如撞牆還是撞
02/24 11:10, 34F
→
02/24 11:11, 1年前 , 35F
小孩，但這個在研究中會規則於「開發者沒有設定好撞人
02/24 11:11, 35F
→
02/24 11:11, 1年前 , 36F
的罰則」，是人的問題，不能把責任丟給AI說他是邪惡的
02/24 11:11, 36F
推
02/24 11:11, 1年前 , 37F
"AI在作戰中自己發展出"這個跟Deepmind的AI比較相關
02/24 11:11, 37F
推
02/24 11:12, 1年前 , 38F
現在的ai不會自主演化
02/24 11:12, 38F
→
02/24 11:12, 1年前 , 39F
我覺得這些危機跟「武器太強會太有效率的殺人」差不多
02/24 11:12, 39F
還有 34 則推文
→
02/24 11:31, 1年前 , 74F
kirimaru73 那演講主題很直接回應我問題
02/24 11:31, 74F
→
02/24 11:31, 1年前 , 75F
晚點來看！
02/24 11:31, 75F
→
02/24 11:31, 1年前 , 76F
不過我本身也不會把AI界定為惡意與否
02/24 11:31, 76F
→
02/24 11:31, 1年前 , 77F
只是好奇如果把規則再放更寬
02/24 11:31, 77F
→
02/24 11:31, 1年前 , 78F
或是刻意制定違背道德的規則
02/24 11:31, 78F
→
02/24 11:31, 1年前 , 79F
會不會有破壞力驚人的可能性
02/24 11:31, 79F
→
02/24 11:32, 1年前 , 80F
可能啊 現在買一堆無人機裝炸藥就能搞出很大的破壞了
02/24 11:32, 80F
推
02/24 11:33, 1年前 , 81F
簡單說 ai 不會自己無中生有
02/24 11:33, 81F
→
02/24 11:34, 1年前 , 82F
現在的ai要做出毀滅人類的計畫 肯定是人類自己已經
02/24 11:34, 82F
→
02/24 11:34, 1年前 , 83F
有類似的計畫了 然後ai 把他完善而已
02/24 11:34, 83F
推
02/24 11:34, 1年前 , 84F
現在不是已經有很多virus/worm可以自己不斷複製和散布
02/24 11:34, 84F
→
02/24 11:35, 1年前 , 85F
那如果在這些virus/worm裡頭塞一個AI會不斷寫新的virus
02/24 11:35, 85F
→
02/24 11:35, 1年前 , 86F
複製自己跟憑空創造新事物差距很大吧
02/24 11:35, 86F
推
02/24 11:35, 1年前 , 87F
因為你說沒有倫理審查 本身就不可能啊www 人類小編都
02/24 11:35, 87F
→
02/24 11:35, 1年前 , 88F
是不是就可以達成類似原PO說的效果
02/24 11:35, 88F
推
02/24 11:36, 1年前 , 89F
塞一個AI會不斷寫新的virus <--- Skynet
02/24 11:36, 89F
→
02/24 11:36, 1年前 , 90F
要政治正確了 放個沒有倫理審查的AI出來 不被炎上才怪
02/24 11:36, 90F
→
02/24 11:36, 1年前 , 91F
你把一篇文章複製一遍 跟寫一個新的是一樣的事情嗎
02/24 11:36, 91F
→
02/24 11:37, 1年前 , 92F
那就只好再弄個AI不斷寫防毒軟體了www
02/24 11:37, 92F
→
02/24 11:37, 1年前 , 93F
病毒之所以複製自己 是因為複製出來的自己不需要思
02/24 11:37, 93F
→
02/24 11:37, 1年前 , 94F
考新的自己要怎麼寫 用複製的就好了
02/24 11:37, 94F
→
02/24 11:37, 1年前 , 95F
首先你要先有辦法讓教會ai寫出一個全新的病毒
02/24 11:37, 95F
→
02/24 11:38, 1年前 , 96F
或是你能提供讓ai 做到這件事情需要的所有知識方法
02/24 11:38, 96F
→
02/24 11:39, 1年前 , 97F
那還不簡單，就用所有的 virus finetune 一下 ChatGPT
02/24 11:39, 97F
→
02/24 11:39, 1年前 , 98F
在讓ai去組成這個功能出來才行
02/24 11:39, 98F
→
02/24 11:39, 1年前 , 99F
然後把 ChatGPT 塞在裡頭不斷複製到不同電腦
02/24 11:39, 99F
推
02/24 11:39, 1年前 , 100F
威爾史密斯:I told you!!!!
02/24 11:39, 100F
推
02/24 11:42, 1年前 , 101F
ChatGpt自己是一個伺服器 哪能隨便塞啊
02/24 11:42, 101F
推
02/24 11:42, 1年前 , 102F
@agario 看起來還滿難的啊
02/24 11:42, 102F
→
02/24 11:53, 1年前 , 103F
現在的AI能自我進化就如同阿米巴變人類的輕小劇情 你
02/24 11:53, 103F
→
02/24 11:53, 1年前 , 104F
信我還不信 這小說好像很熱賣
02/24 11:53, 104F
噓
02/24 11:55, 1年前 , 105F
卡通演的的不要當真，在這問還不如自己孤狗
02/24 11:55, 105F
→
02/24 11:57, 1年前 , 106F
Ai 現階段會做的事情依然要人類教他方法
02/24 11:57, 106F
→
02/24 11:58, 1年前 , 107F
在人類自己發現一個保證能不斷改進ai 的方法前
02/24 11:58, 107F
→
02/24 11:58, 1年前 , 108F
Ai 自己是做不到這件事的
02/24 11:58, 108F
→
02/24 12:03, 1年前 , 109F
.............
02/24 12:03, 109F
推
02/24 12:04, 1年前 , 110F
可以寫個AI一直創Google帳號、開Google colab。
02/24 12:04, 110F
→
02/24 12:08, 1年前 , 111F
覺得沒有奇異點。AI論文發的太多太快，才覺得變化太快。
02/24 12:08, 111F
噓
02/24 12:37, 1年前 , 112F
看到這篇文就知道人類的智慧還不可能完成了
02/24 12:37, 112F
推
02/24 13:37, 1年前 , 113F
去了解AI 目前你推文說的那些都不會出現
02/24 13:37, 113F
‣ 更多 BanaRepublic 的文章
文章代碼(AID): #1Z-2Of8C (C_Chat)
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 8 之 11 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共11篇)
‣ 更多 BanaRepublic 的文章
文章代碼(AID): #1Z-2Of8C (C_Chat)