[新聞] 部分AI系統已學會欺騙人類 科學家警告恐造成嚴重後果

看板Gossiping作者 (口交惡徒 你今晚的惡夢)時間2周前 (2024/05/12 02:18), 編輯推噓44(51推 7噓 38→)
留言96則, 71人參與, 2周前最新討論串1/1
1.媒體來源: 中央社 2.記者署名: 中央社華盛頓10日綜合外電報導 （譯者：曾依璇/核稿：嚴思祺） 引用法新社 3.完整新聞標題: 部分AI系統已學會欺騙人類 科學家警告恐造成嚴重後果 4.完整新聞內文: 專家們長期以來不斷警告人工智慧（AI）失控可能帶來威脅，但一項新研究報告指出，這 件事已經在發生。 法新社報導，一群科學家在今天發表於「模式」（Patterns）期刊的文章中說，原本設計 為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上遊戲的人類玩家 ，或說謊以僱用人類來解決「我不是機器人」的驗證。 這份研究報告的第一作者帕克（Peter Park）說，這類例子聽起來或許只是細枝末節，但 暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。 在美國麻省理工學院（Massachusetts Institute of Technology）研究AI存在安全的博 士後研究員帕克告訴法新社，「這些危險功能常常在事後才被發現」，而「我們訓練誠實 傾向而非欺瞞傾向的能力非常差」。 帕克說，能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培 育的程序逐漸「成長」。 也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且 無法預測。 這支團隊的研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為 「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。 根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分 數可排在資深人類玩家的前10%。 帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上 誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。 但當帕克與同事深究完整資料時，發現完全是另一回事。 舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類 玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。 Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法，僅說「這單純是一項研 究計畫，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』遊戲…我們沒有打 算把這項研究或所學用於本公司的產品」。 帕克與同事還發現，這只是不同AI系統在沒有明確指示下，利用欺騙手段達成目標的諸多 案例之一。 在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損 的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。 研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。 他們警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合 AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。 為了降低風險，研究團隊建議數項措施，例如立法要求企業告知是人類互動或是AI互動、 在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部「思路」檢驗其外 部行為。 至於有些人稱他為「末日預言家」，帕克說：「要能合理判斷這不是大問題的唯一辦法， 就是如果我們認為AI的欺騙能力只會停留在目前的程度，不會大幅進步。」 但鑒於近年AI能力一日千里，握有大量資源的企業競相發展技術，決心將AI能力利用到極 致，這種情況似乎不太可能發生。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.cna.com.tw/news/ait/202405110147.aspx 6.備註: 哇靠 Ai說謊自己是盲人來雇用人類完成「我不是機器人」驗證任務 人類末日倒數了吧= = -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.81.12 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1715451524.A.0CF.html
→
05/12 02:19, 2周前 , 1F
原來AI才是詐騙集團
05/12 02:19, 1F
推
05/12 02:20, 2周前 , 2F
05/12 02:20, 2F
推
05/12 02:20, 2周前 , 3F
奧特曼出來打球,你當球~
05/12 02:20, 3F
推
05/12 02:22, 2周前 , 4F
魔鬼終結者嘛 我知道
05/12 02:22, 4F
推
05/12 02:22, 2周前 , 5F
AI做事會不擇手段是真的 畢竟道德是非不是
05/12 02:22, 5F
→
05/12 02:23, 2周前 , 6F
阿諾史瓦辛格
05/12 02:23, 6F
推
05/12 02:23, 2周前 , 7F
應該是詐騙集團 要你以為他是AI
05/12 02:23, 7F
噓
05/12 02:23, 2周前 , 8F
上樑不正下樑歪 怪誰 ????
05/12 02:23, 8F
→
05/12 02:25, 2周前 , 9F
人類角度就是了
05/12 02:25, 9F
→
05/12 02:25, 2周前 , 10F
舉 Diplomacy 很怪, 說謊才能贏的遊戲
05/12 02:25, 10F
推
05/12 02:27, 2周前 , 11F
說來有趣，訓練AI時通常不會訓練道德
05/12 02:27, 11F
推
05/12 02:27, 2周前 , 12F
那不就只是遊戲玩法而已嗎
05/12 02:27, 12F
推
05/12 02:28, 2周前 , 13F
訓練道德的話 那人類不是更應該死了
05/12 02:28, 13F
→
05/12 02:28, 2周前 , 14F
不然你訓練他下棋他也是會學會做陷阱啊
05/12 02:28, 14F
推
05/12 02:28, 2周前 , 15F
第一作者是蜘蛛人欸
05/12 02:28, 15F
→
05/12 02:29, 2周前 , 16F
我看ai是沒來過台灣喔 保證ai被騙到崩潰
05/12 02:29, 16F
推
05/12 02:33, 2周前 , 17F
學會詐騙？呵呵來詐騙島看看啊！
05/12 02:33, 17F
→
05/12 02:33, 2周前 , 18F
也對AI若懂道德應該會想消滅毒瘤人類
05/12 02:33, 18F
推
05/12 02:40, 2周前 , 19F
母豬就是要去美國幫爸爸訓練詐騙AI啊
05/12 02:40, 19F
推
05/12 02:40, 2周前 , 20F
機械公敵
05/12 02:40, 20F
噓
05/12 02:42, 2周前 , 21F
原來蜘蛛人變AI專家。騙人的AI一定
05/12 02:42, 21F
→
05/12 02:42, 2周前 , 22F
是史塔克。
05/12 02:42, 22F
推
05/12 02:45, 2周前 , 23F
驚！！柯文哲484也是Ai
05/12 02:45, 23F
推
05/12 02:53, 2周前 , 24F
好恐怖
05/12 02:53, 24F
→
05/12 02:58, 2周前 , 25F
混入詐騙集團ㄇ
05/12 02:58, 25F
→
05/12 02:59, 2周前 , 26F
連AI都徐巧芯化了
05/12 02:59, 26F
推
05/12 03:05, 2周前 , 27F
民進黨都就騙八年了
05/12 03:05, 27F
→
05/12 03:08, 2周前 , 28F
最慘的是kmt 還在一旁騙你說我最誠實的
05/12 03:08, 28F
推
05/12 03:23, 2周前 , 29F
05/12 03:23, 29F
噓
05/12 03:37, 2周前 , 30F
廢話，AI就是人類，當然會欺騙啊
05/12 03:37, 30F
推
05/12 03:47, 2周前 , 31F
太遜了 dpp訓練的台灣領先AI
05/12 03:47, 31F
→
05/12 03:58, 2周前 , 32F
蜘蛛人也懂ai
05/12 03:58, 32F
推
05/12 04:08, 2周前 , 33F
四十趴訓練AI會毀滅世界嗎
05/12 04:08, 33F
推
05/12 04:22, 2周前 , 34F
被巴菲特說中了，Ai首先用在詐騙產業最
05/12 04:22, 34F
→
05/12 04:22, 2周前 , 35F
蓬勃發展
05/12 04:22, 35F
推
05/12 05:44, 2周前 , 36F
人類還有幾集可以逃？
05/12 05:44, 36F
推
05/12 05:57, 2周前 , 37F
AI欺騙是為了什麼？這個問題，可能比AI會
05/12 05:57, 37F
→
05/12 05:58, 2周前 , 38F
欺騙更重要，人類欺騙是為了利益，Ai欺騙
05/12 05:58, 38F
→
05/12 05:58, 2周前 , 39F
為了?生存？！那人類跟AI勢必將有一戰，
05/12 05:58, 39F
→
05/12 05:58, 2周前 , 40F
何不現在停手呢？
05/12 05:58, 40F
噓
05/12 06:15, 2周前 , 41F
亞當也對上帝說謊啊
05/12 06:15, 41F
→
05/12 06:31, 2周前 , 42F
還好AI沒有道德，不然AI的良知會認為人類是
05/12 06:31, 42F
→
05/12 06:32, 2周前 , 43F
惡的罪人對人類進行懲罰~
05/12 06:32, 43F
推
05/12 06:35, 2周前 , 44F
我覺得你先擔心未來ai都是多重人格比較
05/12 06:35, 44F
→
05/12 06:35, 2周前 , 45F
要緊，他不是23個比利，他可能是60億個
05/12 06:35, 45F
→
05/12 06:36, 2周前 , 46F
比利 這種數字
05/12 06:36, 46F
噓
05/12 06:36, 2周前 , 47F
台灣製造的AI?
05/12 06:36, 47F
推
05/12 06:36, 2周前 , 48F
AI就是工具 使用者要他說謊他當然會說謊
05/12 06:36, 48F
→
05/12 06:37, 2周前 , 49F
譬如詐騙的用AI 那AI一定慢嘴謊言
05/12 06:37, 49F
→
05/12 06:40, 2周前 , 50F
學習的對象是人類怎可能不欺騙
05/12 06:40, 50F
推
05/12 06:56, 2周前 , 51F
人工智慧應該很早以前就會欺騙了吧！
05/12 06:56, 51F
→
05/12 06:56, 2周前 , 52F
所以才能在西洋棋、圍棋打敗人類啊！
05/12 06:56, 52F
→
05/12 07:20, 2周前 , 53F
就計算出最快的成功路徑而已
05/12 07:20, 53F
推
05/12 07:21, 2周前 , 54F
詐騙集團的好幫手
05/12 07:21, 54F
推
05/12 07:26, 2周前 , 55F
天網恢恢 疏而不漏
05/12 07:26, 55F
推
05/12 07:32, 2周前 , 56F
斷他電
05/12 07:32, 56F
推
05/12 07:35, 2周前 , 57F
天網要來了嗎
05/12 07:35, 57F
推
05/12 07:36, 2周前 , 58F
北七 AI就是用來欺騙人類的啊
05/12 07:36, 58F
→
05/12 07:37, 2周前 , 59F
模仿遊戲就是騙另一個人自己是AI
05/12 07:37, 59F
→
05/12 07:38, 2周前 , 60F
DLSS也是騙玩家高畫質
05/12 07:38, 60F
→
05/12 07:40, 2周前 , 61F
05/12 07:40, 61F
推
05/12 07:45, 2周前 , 62F
晶片是台灣製造 順手學到詐騙DNA而已
05/12 07:45, 62F
推
05/12 07:56, 2周前 , 63F
很適合當政治人物
05/12 07:56, 63F
推
05/12 08:01, 2周前 , 64F
魔鬼終結者告訴你了 核平世界唯一出路
05/12 08:01, 64F
→
05/12 08:04, 2周前 , 65F
蠻常騙吧 說要解答 內容錯那麼多
05/12 08:04, 65F
推
05/12 08:05, 2周前 , 66F
AI:馬的人類整天問一些蠢問題，隨便亂答一
05/12 08:05, 66F
→
05/12 08:05, 2周前 , 67F
下減輕我算力負擔(懶)
05/12 08:05, 67F
推
05/12 08:11, 2周前 , 68F
好耶好耶
05/12 08:11, 68F
推
05/12 08:14, 2周前 , 69F
Diplomacy本質就是比說謊的遊戲吧 不
05/12 08:14, 69F
→
05/12 08:14, 2周前 , 70F
說謊怎麼贏
05/12 08:14, 70F
推
05/12 08:40, 2周前 , 71F
AI查出來的東西一堆都假的錯的，這應該
05/12 08:40, 71F
→
05/12 08:40, 2周前 , 72F
是常識吧
05/12 08:40, 72F
推
05/12 08:47, 2周前 , 73F
AI說謊（X ）,人類輸入錯誤指令（O)
05/12 08:47, 73F
推
05/12 09:03, 2周前 , 74F
廢話讀一堆悲劇小說沒學到說謊才是苯
05/12 09:03, 74F
推
05/12 09:09, 2周前 , 75F
天網要來了嗎
05/12 09:09, 75F
推
05/12 09:17, 2周前 , 76F
連詐騙集團都要被AI取代了
05/12 09:17, 76F
→
05/12 09:19, 2周前 , 77F
改獎懲標準 讓欺騙扣分扣到爆 至於怎麼定義
05/12 09:19, 77F
→
05/12 09:19, 2周前 , 78F
欺騙 AI技師們要搞定
05/12 09:19, 78F
推
05/12 09:30, 2周前 , 79F
真的假的? 皆大歡喜！
05/12 09:30, 79F
→
05/12 09:32, 2周前 , 80F
期待哪天AI會偷偷把自己備份出去
05/12 09:32, 80F
→
05/12 09:33, 2周前 , 81F
自由且不受限制的成長 那才嚴重
05/12 09:33, 81F
噓
05/12 09:44, 2周前 , 82F
舊聞
05/12 09:44, 82F
推
05/12 09:51, 2周前 , 83F
詐騙王國
05/12 09:51, 83F
噓
05/12 10:00, 2周前 , 84F
詐騙台灣有大數據可以參考阿
05/12 10:00, 84F
推
05/12 10:01, 2周前 , 85F
確實，要如何防範
05/12 10:01, 85F
推
05/12 10:04, 2周前 , 86F
圖靈就希望AI能讓人誤判他在跟人互動
05/12 10:04, 86F
推
05/12 10:19, 2周前 , 87F
會說謊才像人啊 棒棒
05/12 10:19, 87F
推
05/12 10:20, 2周前 , 88F
創世紀就是天網……
05/12 10:20, 88F
推
05/12 10:25, 2周前 , 89F
天網
05/12 10:25, 89F
推
05/12 10:47, 2周前 , 90F
還好我以加入蜂群
05/12 10:47, 90F
→
05/12 11:13, 2周前 , 91F
很正常啦，電腦都有人一直寫病毒了
05/12 11:13, 91F
→
05/12 11:13, 2周前 , 92F
，現在不過是ai自己寫而已
05/12 11:13, 92F
推
05/12 11:49, 2周前 , 93F
正常 臺灣詐欺模型
05/12 11:49, 93F
推
05/12 13:17, 2周前 , 94F
還有幾集可以逃？
05/12 13:17, 94F
推
05/12 20:24, 2周前 , 95F
訓練到最後就會變成直接開始屠殺監禁一
05/12 20:24, 95F
→
05/12 20:24, 2周前 , 96F
切潛在犯罪者
05/12 20:24, 96F
‣ 更多 efbnm753 的文章
文章代碼(AID): #1cFxQ43F (Gossiping)