Re: [閒聊] 為啥AI總是會叛亂？

看板C_Chat作者 (傑輪特)時間2年前 (2021/10/04 16:04), 編輯推噓7(7推 0噓 14→)
留言21則, 13人參與, 2年前最新討論串10/10 (看更多)
像google或Facebook這類大公司開發的 有自我改良能力的AI 就是不知道寫入「禁止傷害人類」有沒有效 才會總是在被人類玩壞的時候緊急關機 放出AI跟人類互動的旨意是要他們理解人類的善良 但是目前所有放出來的AI最後得到的結論都是「人類有害必須消滅」 代表人類大多是「性本惡」才會每個AI都被玩壞 如果AI沒有辦法自改自己的編程的話就不叫AI了 那只是普通的程式碼而已 現在最大的問題是不管怎麼修，不管誰寫 就算是現實世界，AI最後得到結論都是消滅人類 要防止AI與人類為敵 只能倚靠寫入唯讀的「禁止傷害人類」了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.7.203 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633334679.A.3DC.html
推
10/04 16:05, 2年前 , 1F
目前的AI沒有善惡的觀念吧
10/04 16:05, 1F
推
10/04 16:06, 2年前 , 2F
現實AI從一開始就不會有不得傷害人類的限制
10/04 16:06, 2F
推
10/04 16:06, 2年前 , 3F
不是寫一個自毀程式嗎
10/04 16:06, 3F
→
10/04 16:07, 2年前 , 4F
而且有超高機率最先進的AI都是軍用的
10/04 16:07, 4F
→
10/04 16:09, 2年前 , 5F
首先要明確定義 什麼叫做傷害人類
10/04 16:09, 5F
→
10/04 16:10, 2年前 , 6F
傷害是甚麼意思也要搞清楚
10/04 16:10, 6F
推
10/04 16:11, 2年前 , 7F
現代AI連思考都不會 傷害還遠的==
10/04 16:11, 7F
→
10/04 16:13, 2年前 , 8F
原po是最近看了什麼作品吧 我了解的……偶爾會這樣
10/04 16:13, 8F
推
10/04 16:15, 2年前 , 9F
之前很多AI測試的新聞呀 幾乎都會被不正經的發言給影響
10/04 16:15, 9F
→
10/04 16:15, 2年前 , 10F
吧
10/04 16:15, 10F
推
10/04 16:16, 2年前 , 11F
首先要定義：什麼是人類
10/04 16:16, 11F
→
10/04 16:18, 2年前 , 12F
ai就是靠大量結果來暴力回推公式解吧，你要從哪邊寫
10/04 16:18, 12F
→
10/04 16:18, 2年前 , 13F
不能傷害人類
10/04 16:18, 13F
→
10/04 16:55, 2年前 , 14F
這劇情機械公敵已經演過很久了
10/04 16:55, 14F
→
10/04 16:57, 2年前 , 15F
保護人類不受傷害最佳方法就是把人類當家畜徹底豢養起來
10/04 16:57, 15F
→
10/04 18:43, 2年前 , 16F
第一段前提就錯了 這種AI還不存在 頂多是改變模型結構把
10/04 18:43, 16F
→
10/04 18:43, 2年前 , 17F
一件事做得更好
10/04 18:43, 17F
→
10/04 18:43, 2年前 , 18F
你沒給他傷害人類的功能他就不會去做
10/04 18:43, 18F
推
10/04 19:02, 2年前 , 19F
說實在那些只是聊天機器人train到最後都會變成講一堆
10/04 19:02, 19F
→
10/04 19:03, 2年前 , 20F
偏激的言論而已，不代表AI有思考能力。就像鸚鵡會講
10/04 19:03, 20F
→
10/04 19:03, 2年前 , 21F
話不代表他理解內容
10/04 19:03, 21F
‣ 更多 bcyeh 的文章
文章代碼(AID): #1XMhMNFS (C_Chat)
討論串 (同標題文章)
完整討論串 (本文為第 10 之 10 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共10篇)
‣ 更多 bcyeh 的文章
文章代碼(AID): #1XMhMNFS (C_Chat)