[新聞] 美空軍AI無人機模擬測試！因這事失控　AI竟把操作員「殺死」

看板Gossiping作者ac147 (嘿嘿)時間11月前 (2023/06/02 13:42)推噓-7(4推 11噓 13→)

留言28則, 21人參與討論串1/1

備註請放最後面違者新聞文章刪除 1.媒體來源: 三立新聞 2.記者署名: 國際中心／許元馨報導 3.完整新聞標題: 美空軍AI無人機模擬測試！因這事失控　AI竟把操作員「殺死」 4.完整新聞內文: 近年AI人工智慧發展迅速，有些行業和專業領域開始試著用AI取代人力工作。據外媒報導，美軍在一次模擬測試中，試著讓AI操控無人機了解成效，沒想到AI在過程中採用「高度無法預期的戰略」，竟決定攻擊、「殺死」阻饒它執行任務的人類操作員。根據《衛報》報導，美國空軍AI測試和運行主任上校漢彌爾頓（Tucker Hamilton）在5月於倫敦舉行的空中作戰發展高峰會中，描述了一項模擬測試，一架由人工智能驅動的無人機受收到摧毀敵人的防空系統的指令，但是否開火需獲得操作員批准。由於這架無人機正進行摧毀敵方防空系統的行為，但人類操作人員否決此攻擊時，AI就會認為操作員在阻饒它，進而選擇對人類操作員發動攻擊，「殺害」對方。漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因為那個人阻止了它實現其目標」。漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與無人機通訊的通訊塔，以阻止它殺死目標」。有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將你視為錯誤與敵人。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: ※ 當新聞連結過長時，需提供短網址方便網友點擊 https://www.setn.com/m/ampnews.aspx?NewsID=1303680 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請? ※ 備註請勿張貼三日內新聞(包含連結、標題等) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.101.200 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1685684567.A.988.html

噓

felixden

06/02 13:42, 11月前 , 1^F

06/02 13:42, 1^F

→

uohZemllac

06/02 13:42, 11月前 , 2^F

06/02 13:42, 2^F

噓

magiccello

06/02 13:43, 11月前 , 3^F

06/02 13:43, 3^F