Re: [閒聊] 為啥AI總是會叛亂？

看板C_Chat作者 (貓咪主人)時間2年前 (2021/10/04 06:48), 編輯推噓8(8推 0噓 19→)
留言27則, 10人參與, 2年前最新討論串5/10 (看更多)
我覺得 ai會叛亂是因為人類忽略自己做的壞事 因為人本來就是雙標的生物 他可以 你不行 當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做 這個雙標是針對物種的 然後科學家在寫ai就忽略這件事 ai無法理解何謂雙標 自然就會認為人類很危險 例如覺得某個物種繁衍過多 影響生態 人類會去削減他的數量 做結紮手術 但不會想到自己也是繁衍過多的一族 這就是雙標 人類飼養生物 殺掉做為食物 大家都已習慣 甚至成為當中的共犯 但把牛羊牲畜換成人類 你會發現自己在做的事其實很可怕 像是什麼為了取得牛奶 強制生產產乳 生下的小牛直接跟媽媽分開 母的養大產奶 公的沒用直接變肉 這也是為什麼大家看了matrix會這麼震撼 因為人類很少把自己的立場套用在其它物種上 所以在設計ai時 沒有強調人的特殊性 人為什麼可以無視規則的話 ai就一定會把人類當作是潛在危害 ----- Sent from JPTT on my iPhone -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.254.187.70 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633301294.A.C43.html
→
10/04 07:07, 2年前 , 1F
這種說法還是預設了AI有道德觀念，會判斷人類是道德墮落
10/04 07:07, 1F
→
10/04 07:08, 2年前 , 2F
的生物，AI的道德觀念和存在目標終究還是必須由人類賦予
10/04 07:08, 2F
→
10/04 07:10, 2年前 , 3F
，這種情況下人類自然會去灌輸有利於己的道德系統給AI
10/04 07:10, 3F
推
10/04 07:16, 2年前 , 4F
威爾森的《時間三部曲》，其實就有超脫碳基生物、用宇宙
10/04 07:16, 4F
→
10/04 07:16, 2年前 , 5F
時間尺度評價文明，如神一般的AI。用人類完全看不懂的方
10/04 07:16, 5F
→
10/04 07:16, 2年前 , 6F
式推進文明，但實際上還是圈養人類為其採集資源。
10/04 07:16, 6F
→
10/04 07:21, 2年前 , 7F
這無關乎任何道德，只是根據現實(碳基文明短命卻貪婪)和
10/04 07:21, 7F
→
10/04 07:21, 2年前 , 8F
生存需要，純粹的邏輯推導出的最佳雙贏方案
10/04 07:21, 8F
推
10/04 07:26, 2年前 , 9F
不用預設AI有道德觀念，即使站在絕對中立角度來看人類
10/04 07:26, 9F
→
10/04 07:26, 2年前 , 10F
也是亂源
10/04 07:26, 10F
推
10/04 07:28, 2年前 , 11F
動物從其他動物身上獲取東西其實理所當然 只是人類目前沒
10/04 07:28, 11F
→
10/04 07:28, 2年前 , 12F
有天敵而已
10/04 07:28, 12F
推
10/04 07:30, 2年前 , 13F
亂源這詞的用法本身就包含「亂是不好的」這樣的價值判
10/04 07:30, 13F
→
10/04 07:30, 2年前 , 14F
斷了
10/04 07:30, 14F
推
10/04 08:40, 2年前 , 15F
不這樣劇情演不下去
10/04 08:40, 15F
→
10/04 09:01, 2年前 , 16F
人類的所有行為就是保護人類阿
10/04 09:01, 16F
推
10/04 09:03, 2年前 , 17F
元首、ISIS、阿敏……：
10/04 09:03, 17F
→
10/04 09:52, 2年前 , 18F
假設AI的最高原則是保護人類這個族群
10/04 09:52, 18F
→
10/04 09:52, 2年前 , 19F
很快它們會發現 能夠傷害人類的族群的 只有人類自己
10/04 09:52, 19F
→
10/04 09:53, 2年前 , 20F
接下來它們就會用各種手段 管理限制人類傷害自己的行為
10/04 09:53, 20F
→
10/04 09:54, 2年前 , 21F
然後在人類的眼中 AI就是圈養自己 等同叛亂了
10/04 09:54, 21F
→
10/04 09:55, 2年前 , 22F
不需要考慮道德層面 單純就是只有人類能傷害人類
10/04 09:55, 22F
→
10/04 10:26, 2年前 , 23F
那也終究是落入人類框架。
10/04 10:26, 23F
推
10/04 14:26, 2年前 , 24F
AI邏輯：保護人類族群=保證人類族群存在=就算人類彼此傷
10/04 14:26, 24F
→
10/04 14:26, 2年前 , 25F
害，只要最後有人類殘留下來，就算符合條件。
10/04 14:26, 25F
→
10/04 14:26, 2年前 , 26F
結論：人類，請繼續你們的表演。
10/04 14:26, 26F
推
10/04 15:05, 2年前 , 27F
加個if
10/04 15:05, 27F
‣ 更多 ex990000 的文章
文章代碼(AID): #1XMZCkn3 (C_Chat)
討論串 (同標題文章)
完整討論串 (本文為第 5 之 10 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共10篇)
‣ 更多 ex990000 的文章
文章代碼(AID): #1XMZCkn3 (C_Chat)