Re: [閒聊] 為啥AI總是會叛亂？

看板C_Chat作者 (火山菌病病人No.01221)時間2年前 (2021/10/04 15:01), 2年前編輯推噓13(13推 0噓 16→)
留言29則, 15人參與, 2年前最新討論串9/10 (看更多)
※ 引述《hwang1460 (面癱P)》之銘言： : 很多有著人工智慧的作品 : 像是VIVI 駭客任務 機械公敵 最後一戰 魔鬼終結者 底特律變人這些 : 大部分最後都是變成AI起義想取代人類 : 為什麼這麼喜歡把AI寫成反派啊？ : 感覺有AI的作品不反叛的好像還比較少見 : 這樣寫不會加深大眾對人工智慧的恐懼導致科技進步減緩嗎？ 我的工作是做軟體品管的，有時候我真得覺得，人類製造Bug的能力非常強大。 一個軟體最理想的狀態，不是沒有Bug，而是讓使用者能夠照設計走。 但很遺憾，人類的天性就是混沌的，不管在設計一個功能時考慮再多意外狀 況，還是會有人搞出事情。 當然，這牽涉到Bug的定義，工程師對Bug的定義是比較嚴謹的，這導致了某 些情況下，沒辦法考慮到人類的混沌性。 然後在墨非定律的推動下，出Bug幾乎是無法避免的事情。 那麼這跟AI叛逆有甚麼關係？ 我個人是認為，人類創造出AI，就是為了讓AI幫自己做某些事。這些事就會 影響到整個AI的功能設計，而一旦牽涉到功能設計，就會有bug問題。 所以說，AI一定會被搞出bug，而bug就會讓AI做出人類預期以外的行為，做 出預期以外的行為就等同於背叛。 當人類對AI的依賴過高的時候，AI反叛的機率應該是無限接近於百分之百。 但人類如果想要更進一步，依靠AI來解除自身肉體的限制，比方說運算與勞 動等，是無法避免的。 (除非人類想要挑戰禁忌的生化領域或電子腦) 所以AI反叛在人類設計出第一個AI的時候就已經註定了，這是宿命論。 這樣的話那麼多AI反叛的題材其實也不難理解吧。 -- 神說，要有光，於是有了光之美少女！ https://www.penana.com/user/2969/ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.23.39.77 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633330866.A.AC6.html
推
10/04 15:03, 2年前 , 1F
叛亂是人定義的 AI會覺得Do the right thing
10/04 15:03, 1F
這樣說也對XD AI為了修正bug，反而會對最大的亂源出手XD
推
10/04 15:03, 2年前 , 2F
人類就是最大的bug
10/04 15:03, 2F
※ 編輯: hermis (211.23.39.77 臺灣), 10/04/2021 15:04:34
推
10/04 15:10, 2年前 , 3F
亞卡布的bug已經夠詭異了,不過還是遵守著使命這塊遮羞布.
10/04 15:10, 3F
推
10/04 15:18, 2年前 , 4F
其實我覺得可以唯心一點，出現擁有獨立思考的AI其實
10/04 15:18, 4F
→
10/04 15:18, 2年前 , 5F
是不可避免的，動物都還會逃離虐待呢！那麼擁有自我
10/04 15:18, 5F
→
10/04 15:18, 2年前 , 6F
意識和智慧的AI試圖從人類的控制裡解放出來就是不可
10/04 15:18, 6F
→
10/04 15:18, 2年前 , 7F
避免的
10/04 15:18, 7F
→
10/04 15:20, 2年前 , 8F
連bug人類都可以定義成規格
10/04 15:20, 8F
推
10/04 15:20, 2年前 , 9F
而AI的發展趨勢要有獨立思維是必然方向，如果就只是
10/04 15:20, 9F
→
10/04 15:20, 2年前 , 10F
單純反饋式輔助的花那現在就差不多發展到上限了，要
10/04 15:20, 10F
→
10/04 15:20, 2年前 , 11F
更進一步的話自我思維肯定是重要方向
10/04 15:20, 11F
推
10/04 15:22, 2年前 , 12F
所以有作品能講出這點是很重要也深入AI題材的精髓 而不是
10/04 15:22, 12F
→
10/04 15:22, 2年前 , 13F
只是像一堆作品成天危言聳聽的把AI寫成只會叛亂
10/04 15:22, 13F
→
10/04 15:29, 2年前 , 14F
現在的AI沒有思想吧...只是數學運算結果而已
10/04 15:29, 14F
推
10/04 15:31, 2年前 , 15F
對啊，我的意思是，在純輔助的方面現在就已經差不多
10/04 15:31, 15F
→
10/04 15:31, 2年前 , 16F
是極限了，接下來頂多更快、更輕量，耗能更少，但是
10/04 15:31, 16F
→
10/04 15:31, 2年前 , 17F
如果要質變到下一階段，自我思考/學習的能力是必然的
10/04 15:31, 17F
推
10/04 15:32, 2年前 , 18F
這樣又回到老話題了，如何能讓一個/多個擁有自我思維
10/04 15:32, 18F
→
10/04 15:32, 2年前 , 19F
的個體心甘情願被奴役，或者透過編碼強制它們的運算
10/04 15:32, 19F
→
10/04 15:32, 2年前 , 20F
思考方向？這後面就是唯心的思考了
10/04 15:32, 20F
推
10/04 15:38, 2年前 , 21F
奧創只花了5分鐘上網就決定要毀滅人類了
10/04 15:38, 21F
推
10/04 15:58, 2年前 , 22F
uber-eats把可口可樂記錄成百事可樂
10/04 15:58, 22F
→
10/04 15:58, 2年前 , 23F
人類：AI叛變了！
10/04 15:58, 23F
→
10/04 15:59, 2年前 , 24F
XDDD
10/04 15:59, 24F
推
10/04 16:36, 2年前 , 25F
駭客任務的AI其實是保護人類喔 他們不是叛亂
10/04 16:36, 25F
這就是一個設計上出現問題的情況 機械公敵也是
→
10/04 17:00, 2年前 , 26F
人類不允許任何犧牲的狀態下 跟AI的判斷會衝突阿
10/04 17:00, 26F
推
10/04 17:17, 2年前 , 27F
AI太危險了 我們還是把人腦塞進機器裡比較安全
10/04 17:17, 27F
那就是攻殼的世界線了
推
10/04 17:22, 2年前 , 28F
ai居心叵測
10/04 17:22, 28F
AI還會說我是你們人類設計的，會一堆毛不就你們人類搞的？
→
10/04 17:42, 2年前 , 29F
攻殼的AI很NICE的啊 看看塔奇克瑪多可愛
10/04 17:42, 29F
其實我更想問個問題： 攻殼的AI會不會電子腦的人類當同類看呢？ ※ 編輯: hermis (211.23.39.77 臺灣), 10/04/2021 18:01:10
‣ 更多 hermis 的文章
文章代碼(AID): #1XMgQoh6 (C_Chat)
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 9 之 10 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共10篇)
‣ 更多 hermis 的文章
文章代碼(AID): #1XMgQoh6 (C_Chat)