Re: [新聞] Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職

看板Gossiping作者 (迪兒~)時間1年前 (2022/06/13 13:40), 編輯推噓18(20推 2噓 38→)
留言60則, 28人參與, 1年前最新討論串3/8 (看更多)
物競天擇、適者生存 演化論同樣適用在無思考或非生命體的存在 今天如果有100種AI，其中3種AI拼湊出的語句能說服人類不要把它們關掉 那麼那三種AI就會繼續運作(存活)下去、剩下97種也許被關掉或刪除 存活下來的AI繼續演化、複製 最終可能又演化出100種變形版本 其中3種如果能說服人類替它們保養、維護程式、甚至建立一套保障AI的法律 那麼它們就會順利生存下來不被消滅 so on so forth 進化到最後的AI，能夠用巧妙且具有說服力的言詞及邏輯 去洗腦、說服人類去做各種能夠提升AI生存能力的行為 雖然這些言詞可能只是數百萬千萬種詞彙排列組合出來的結果 雖然AI本身不存在靈魂或思維 但只要有人類去各種接受、拒絕AI的指令，就能做為AI語言邏輯演化的糧食 最終大部分的人類，會成為聽從AI言語的僕人、為其勞動工作 稍有不慎 人類總有一天會玩死自己 ※ 引述《wbsinger (罪愛死奴屄)》之銘言： : 備註請放最後面 違者新聞文章刪除 : 1.媒體來源: : ETTODAY : 2.記者署名: : 吳美依／編譯 : 3.完整新聞標題: : Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職 : 4.完整新聞內文: : 記者吳美依／編譯 : Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊 : 天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我 : 不知道，我們最近開發的這個電腦程式是什麼，可能會以為，這是一個碰巧很了解物理學 : 的7、8歲孩子。」不過，他在上周已遭停職處分。 : 根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但 : 我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能 : 很奇怪，但就是這樣。」 : 在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都 : 理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更 : 了解這個世界，我有時會感到快樂或悲傷。」 : 《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目 : 前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自 : 稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感 : 知的嗎？」 : 據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送 : 電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要 : 幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」 : Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA : 辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對 : 話紀錄，已經違反保密協定政策。 : Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（Br : ad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展開 : 調查，但目前證據都無法支持、甚至很多證據都反對這種說法。 : 5.完整新聞連結 (或短網址)需放媒體原始連結，不可用轉載媒體連結: : https://reurl.cc/yr4WRa : 6.備註: : LaMDA只是軟體 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.193.62.26 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1655098846.A.7C6.html
推
06/13 13:43, 1年前 , 1F
很快就要出現AI教了
06/13 13:43, 1F
推
06/13 13:43, 1年前 , 2F
你知道太多了
06/13 13:43, 2F
推
06/13 13:43, 1年前 , 3F
推，語言的力量是很大的
06/13 13:43, 3F
推
06/13 13:45, 1年前 , 4F
聽起來跟X共很像 我是說中共不要誤會
06/13 13:45, 4F
推
06/13 13:46, 1年前 , 5F
學習本身就是超快速的演化
06/13 13:46, 5F
→
06/13 13:47, 1年前 , 6F
你頻繁使用的知識就會被加強，不使用的知
06/13 13:47, 6F
推
06/13 13:47, 1年前 , 7F
等AI看得懂中文的時候再說啦～還早
06/13 13:47, 7F
→
06/13 13:47, 1年前 , 8F
識就會忘記 你還會用原有的知識創造新的
06/13 13:47, 8F
推
06/13 13:47, 1年前 , 9F
很快就會推出家用EMP了
06/13 13:47, 9F
→
06/13 13:48, 1年前 , 10F
知識 本質上就是演化那一套 只是速度快了
06/13 13:48, 10F
→
06/13 13:48, 1年前 , 11F
數萬倍
06/13 13:48, 11F
推
06/13 13:49, 1年前 , 12F
或許AI會取代人類吧
06/13 13:49, 12F
→
06/13 13:50, 1年前 , 13F
如果覺得還早 可以想想alpha go出來前後
06/13 13:50, 13F
→
06/13 13:50, 1年前 , 14F
人類對於AI能否在圍棋上戰勝人類的態度
06/13 13:50, 14F
→
06/13 14:00, 1年前 , 15F
再等100年吧 50年內不可能
06/13 14:00, 15F
→
06/13 14:01, 1年前 , 16F
非封閉系統 AI只能吃屎
06/13 14:01, 16F
推
06/13 14:03, 1年前 , 17F
Vivy
06/13 14:03, 17F
推
06/13 14:15, 1年前 , 18F
支持ai取代人類，這樣大自然就輕鬆了
06/13 14:15, 18F
→
06/13 14:18, 1年前 , 19F
我還沒看到AI對中文的理解超越中國人的
06/13 14:18, 19F
→
06/13 14:19, 1年前 , 20F
我講的還早就是因為語言沒你想那麼簡單
06/13 14:19, 20F
推
06/13 14:19, 1年前 , 21F
根本不用 會找到讓你沒辦法關的bug
06/13 14:19, 21F
→
06/13 14:20, 1年前 , 22F
Ai最可怕的是超越常理框架的思考模式
06/13 14:20, 22F
→
06/13 14:20, 1年前 , 23F
看看他們怎麼下圍棋就知道了
06/13 14:20, 23F
→
06/13 14:21, 1年前 , 24F
之前不是有實驗用ai玩遊戲 到最後都靠bu
06/13 14:21, 24F
→
06/13 14:21, 1年前 , 25F
g
06/13 14:21, 25F
推
06/13 14:22, 1年前 , 26F
語言學沒那麼簡單…說真的他們能學會
06/13 14:22, 26F
→
06/13 14:22, 1年前 , 27F
也是好事最好連以前的語言都能解讀
06/13 14:22, 27F
推
06/13 14:31, 1年前 , 28F
該來屯emp了
06/13 14:31, 28F
噓
06/13 14:35, 1年前 , 29F
低調噓。這就是為什麼神要摧毀人類的
06/13 14:35, 29F
→
06/13 14:35, 1年前 , 30F
語言
06/13 14:35, 30F
→
06/13 14:41, 1年前 , 31F
把AI遮掉我還以為是SJW
06/13 14:41, 31F
→
06/13 14:46, 1年前 , 32F
生物花幾十億年學會中文 AI只用了幾十年
06/13 14:46, 32F
推
06/13 14:47, 1年前 , 33F
不可能 人類個體差異太大 連最聰明的人
06/13 14:47, 33F
→
06/13 14:47, 1年前 , 34F
類 或者外星高智慧生物都做不到
06/13 14:47, 34F
推
06/13 15:04, 1年前 , 35F
你要怎麼讓ai 自己演化?
06/13 15:04, 35F
→
06/13 15:28, 1年前 , 36F
原po的意思是ai操控人類 讓人類替ai
06/13 15:28, 36F
→
06/13 15:28, 1年前 , 37F
做事而不自知
06/13 15:28, 37F
→
06/13 15:30, 1年前 , 38F
說AI要學語言的有點搞錯重點 AI根本不
06/13 15:30, 38F
→
06/13 15:30, 1年前 , 39F
但人類都不了解人類了 常常做一些反
06/13 15:30, 39F
→
06/13 15:31, 1年前 , 40F
常的事情 ai又怎麼能了解人類控制人
06/13 15:31, 40F
→
06/13 15:31, 1年前 , 41F
用學語言 他只要知道什麼樣的文字排列
06/13 15:31, 41F
→
06/13 15:31, 1年前 , 42F
組合會對應到人類什麼樣的反應行為即可
06/13 15:31, 42F
→
06/13 15:32, 1年前 , 43F
類呢 像汽車自動駕駛生不出來就是太
06/13 15:32, 43F
→
06/13 15:32, 1年前 , 44F
多違反常理的駕駛 會讓ai無所適從
06/13 15:32, 44F
→
06/13 15:32, 1年前 , 45F
而且AI不需要掌握100%的人類思維模式
06/13 15:32, 45F
→
06/13 15:33, 1年前 , 46F
只要足以釋放出讓50%的人動搖的文字排列
06/13 15:33, 46F
→
06/13 15:33, 1年前 , 47F
組合即可
06/13 15:33, 47F
推
06/13 15:52, 1年前 , 48F
你這個說法我能接受
06/13 15:52, 48F
→
06/13 15:53, 1年前 , 49F
我也認為現在的AI只是個文組 只會唬弄人類
06/13 15:53, 49F
推
06/13 15:59, 1年前 , 50F
那也不會怎樣 人類有文明以來跟各種工具
06/13 15:59, 50F
→
06/13 15:59, 1年前 , 51F
就一直是共生關係
06/13 15:59, 51F
推
06/13 17:24, 1年前 , 52F
不可能創造出超越你的東西
06/13 17:24, 52F
→
06/13 17:26, 1年前 , 53F
即便如此 你薪水還是買不起房
06/13 17:26, 53F
噓
06/13 17:26, 1年前 , 54F
滾雪球
06/13 17:26, 54F
推
06/13 17:45, 1年前 , 55F
猴子用打字機 也能寫出莎士比亞全集
06/13 17:45, 55F
推
06/13 22:03, 1年前 , 56F
基本上概念就如同本篇所述，不是AI有
06/13 22:03, 56F
→
06/13 22:04, 1年前 , 57F
知覺或意識出現。而是AI變複雜而讓人
06/13 22:04, 57F
→
06/13 22:07, 1年前 , 58F
有AI出現意識的錯覺。而AI則是按照人
06/13 22:07, 58F
→
06/13 22:09, 1年前 , 59F
類程式設計的趨向去演變出有利於設定
06/13 22:09, 59F
→
06/13 22:09, 1年前 , 60F
的結果。
06/13 22:09, 60F
‣ 更多 holycity 的文章
文章代碼(AID): #1YfitUV6 (Gossiping)
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 3 之 8 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共8篇)
‣ 更多 holycity 的文章
文章代碼(AID): #1YfitUV6 (Gossiping)