[新聞] MIT創精神變態AI 提醒人工智慧潛在危險已回收

看板Gossiping作者時間7年前 (2018/06/13 09:32), 編輯推噓8(12推 4噓 7→)
留言23則, 20人參與, 7年前最新討論串1/1
RTI MIT創精神變態AI 提醒人工智慧潛在危險 法新社今天(12日)報導，美國麻省理工學院(MIT)的研究人員公布了一款名為「諾曼」 (Norman)的人工智慧(AI)，這個首款類似精神病患者的人工智慧，凸顯出若人工智慧出錯 ，可能產生潛在危險。 創造諾曼的目的，是希望能以通俗的方式來解釋演算法如何運作，並讓人們注意到人工智 慧潛在的危險。 麻省理工學院表示，諾曼「代表了一個個案研究，指出當偏誤資訊(biased data)被用在 機器學習演算法時，人工智慧出錯會造成的危險」。 麻省理工學院研究團隊中的成員，亞納達格(Pinar Yanardag)、塞布里安(Manuel Cebrian)以及羅溫(Iyad Rahwan)補充說，「機器學習的中心概念是：你用來教導機器學 習的資料，會對它的行為造成巨大影響。」 他們在電子郵件中表示，「所以當我們談到人工智慧演算法因資訊不公產生偏誤時，罪魁 禍首通常不是演算法本身，而是提供給它們的偏誤資訊。」他們因此萌生創造諾曼的想法 。 諾曼這個名字，取自美國導演希區考克(Alfred Hitchcock)1960年驚悚片「驚魂記」 (Psycho)中的精神變態殺手角色「諾曼貝茲(Norman Bates)」。 諾曼只被「餵食」網路平台Reddit上描述「人們死亡」情狀的短文。 研究人員接著對諾曼進行羅夏克(Rorschach)墨漬心理測驗(ink blots)，以確定諾曼看到 了什麼，並將諾曼的答案與傳統訓練的人工智慧相比較。 墨漬測驗又稱羅夏克測驗，是一種利用墨漬圖片對人進行個性特質的心理測驗。 測試結果非常驚人，在傳統人工智慧表示「兩人比肩而立」時，諾曼看到的是「一名男性 跳出窗戶」。 而當諾曼表示看見「一名男性被他尖叫的妻子射殺」時，其他人工智慧的偵測是「一個人 手持一把雨傘」。 諾曼的專屬網站norman-ai.mit.edu展示兩個人工智慧系統，對10個墨漬心理測驗的回應 ，而諾曼的回答總是令人毛骨悚然。 這個網站讓網友也可用墨漬測驗來測試諾曼，並提出網友自己的答案「來幫助諾曼修正自 己」。 https://news.rti.org.tw/news/view/id/413679 不知道如果設計一個AI餵他八卦版的文章會培養出來什麼？ -- nazi: We are collecting too many useless ores. Hitler: Mine less,then. nazi: Mine fewer Hitler: Yes? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 163.14.218.113 ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1528853542.A.E98.html
推
06/13 09:32, 7年前 , 1F
五樓你先承認吧
06/13 09:32, 1F
推
06/13 09:33, 7年前 , 2F
初音我婆
06/13 09:33, 2F
推
06/13 09:34, 7年前 , 3F
肥宅需要肛門運算系統
06/13 09:34, 3F
→
06/13 09:34, 7年前 , 4F
異常仿生人 應該全數回收 並且立即銷毀
06/13 09:34, 4F
→
06/13 09:35, 7年前 , 5F
一個小孩 給8+9養 長大變8+9機率當然高阿
06/13 09:35, 5F
→
06/13 09:35, 7年前 , 6F
有自由意制的人工智慧當然也會被環境影響
06/13 09:35, 6F
推
06/13 09:35, 7年前 , 7F
合理懷疑這個AI有思覺失調症 必須吃藥控制
06/13 09:35, 7F
推
06/13 09:36, 7年前 , 8F
麻省理工:變人
06/13 09:36, 8F
推
06/13 09:37, 7年前 , 9F
ai也是像程式一樣需要除錯啊
06/13 09:37, 9F
推
06/13 09:38, 7年前 , 10F
database都是這些東西當然只能回答出這些
06/13 09:38, 10F
噓
06/13 09:38, 7年前 , 11F
就跟8+9養8+9一樣
06/13 09:38, 11F
噓
06/13 09:39, 7年前 , 12F
笑死 這把刀子殺過人 所以刀子很危險
06/13 09:39, 12F
→
06/13 09:39, 7年前 , 13F
今天如果只餵它各種動物的屎 他就會回答是鳥屎或烏龜屎
06/13 09:39, 13F
→
06/13 09:41, 7年前 , 14F
MIT水準!?
06/13 09:41, 14F
噓
06/13 09:46, 7年前 , 15F
AI沒有知覺 跳窗表示也只不過是一些數值 MIT又再鬼扯
06/13 09:46, 15F
噓
06/13 09:52, 7年前 , 16F
AI還是毫無意識 MIT也不過如此
06/13 09:52, 16F
推
06/13 10:08, 7年前 , 17F
哈哈哈哈哈哈哈哈哈哈哈哈
06/13 10:08, 17F
→
06/13 10:08, 7年前 , 18F
極仇女仇甲仇CCR的AI
06/13 10:08, 18F
推
06/13 10:19, 7年前 , 19F
餵他一堆負面資料 當然出來的是負面結果啊 是要提
06/13 10:19, 19F
→
06/13 10:20, 7年前 , 20F
醒啥
06/13 10:20, 20F
推
06/13 10:20, 7年前 , 21F
期待台大資工所開個蘿莉人設的AI給鄉民們玩玩
06/13 10:20, 21F
推
06/13 10:32, 7年前 , 22F
肥宅蘿莉控
06/13 10:32, 22F
推
06/14 19:49, 7年前 , 23F
去年微軟的聊天少女Tay一天就被網民調教壞了
06/14 19:49, 23F
‣ 更多 perfidia 的文章
文章代碼(AID): #1R87GcwO (Gossiping)