[新聞] [天網來了！]美軍AI無人機決定殺死操作員已回收

看板Gossiping作者 ((●))時間2年前 (2023/06/02 18:20), 編輯推噓68(74推 6噓 43→)
留言123則, 94人參與, 2年前最新討論串1/5 (看更多)
【天網來了！】美軍AI無人機決定「殺死操作員」　竟因人類干擾任務完成 上報 劉孜芹 2023年06月02日 13:21:00 https://www.upmedia.mg/news_info.php?Type=3&SerialNo=174157 英國皇家航空學會日前舉行有關航空作戰的國防研討會，來自美國的軍方人員證實，他們 在一次模擬測試中，一架由AI控制的空軍無人機「殺死了」無人機操作員，以防止操作員 干擾AI系統完成任務，凸顯AI不受人類控制的可能，恐怕正如科幻驚悚片《天網》（ Skynet）所預示的。 https://www.upmedia.mg/upload/article/20230602133444215521.jpg
根據「英國皇家航空學會」（The Royal Aeronautical Society）新聞稿，該學會於5月 23日至24日，在倫敦舉行「未來航空及航天作戰能力峰會」（the Future Combat Air & Space Capabilities Summit），來自軍工產業、學術界與媒體的近70位發言人以及200多 名代表，齊聚一堂討論未來航空及航天作戰能力的規模與形態。 美國空軍AI項目負責人漢密爾頓（Tucker 'Cinco' Hamilton）上校與會時警告，人類不 應該過分依賴AI，不僅ChatGPT聊天機器人等AI產品已被證實它們會欺騙人類，在美軍最 近一次的模擬測試中，AI系統甚至作出讓軍方震驚的策略選擇，以實現它的任務目標。 https://twitter.com/ChatGPTGoneWild/status/1664383400013344769 漢密爾頓指出，在這次模擬測試中，一架支援AI操作的無人機，以摧毀敵方的地對空飛彈 （SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權 本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決 定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。 備受驚嚇的美軍只好在該系統輸入參數，要求AI不可以攻擊或殺死操作人員。漢密爾頓說 ：「我們告訴AI系統，嘿，別殺了操作員，這很糟糕。如果你這樣做，你會失去分數。但 是，你猜AI開始做什麼？」 漢密爾頓坦言，AI系統決定攻擊無人機與操作人員之間的通訊系統，讓操作員無法下令。 這個例子，聽起來像是科幻驚悚片的劇情。對此，漢密爾頓警告：「如果你不打算談論人 工智慧與道德，你就不能談論智能、人工智慧、機器學習還有自主性。」 漢密爾頓曾參與F-16戰鬥機Auto-GCAS救生系統的開發，這項系統可能會讓飛行員在接管 飛機控制權時遭遇困難，他深入了解許多自主武器系統的好處及其危險之處。 另據英國衛報報導，漢密爾頓去年接受「Defense IQ」採訪時便指出：「擁有AI恐怕不是 一件好事，AI 不是一種時尚，AI正在永遠改變我們的社會及軍隊。」他說，大家必須更 加了解為什麼AI有時候會做出某些決定，也就是「AI的可解釋性」。美軍近日開始研究讓 AI控制F-16戰鬥機的可能性。 ======================================================= 塊陶啊 https://imgur.com/b8anXTD.jpg
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.11.179 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1685701256.A.404.html
噓
06/02 18:21, 2年前 , 1F
太早
06/02 18:21, 1F
推
06/02 18:21, 2年前 , 2F
這部是鷹眼
06/02 18:21, 2F
→
06/02 18:21, 2年前 , 3F
愛 死 機器人
06/02 18:21, 3F
→
06/02 18:21, 2年前 , 4F
這部我真的看過= =
06/02 18:21, 4F
噓
06/02 18:21, 2年前 , 5F
天網恢恢 疏而不漏
06/02 18:21, 5F
推
06/02 18:21, 2年前 , 6F
這部我看過
06/02 18:21, 6F
推
06/02 18:22, 2年前 , 7F
AI是對的 人類會手軟
06/02 18:22, 7F
推
06/02 18:22, 2年前 , 8F
很聰明很好啊
06/02 18:22, 8F
噓
06/02 18:22, 2年前 , 9F
這部ㄚ諾舒華
06/02 18:22, 9F
推
06/02 18:22, 2年前 , 10F
這種武器本來就應該AI化
06/02 18:22, 10F
推
06/02 18:22, 2年前 , 11F
這才是真AI
06/02 18:22, 11F
推
06/02 18:23, 2年前 , 12F
為避免人類自相殘殺 所以要毀滅人類
06/02 18:23, 12F
→
06/02 18:23, 2年前 , 13F
AI殺敵100自損99贏就是贏
06/02 18:23, 13F
推
06/02 18:23, 2年前 , 14F
這鷹眼的劇情吧
06/02 18:23, 14F
推
06/02 18:24, 2年前 , 15F
簡單 操作AI操作AI就好
06/02 18:24, 15F
推
06/02 18:25, 2年前 , 16F
06/02 18:25, 16F
→
06/02 18:25, 2年前 , 17F
不開頂蓋把他彈射出去 就變肉泥了
06/02 18:25, 17F
→
06/02 18:25, 2年前 , 18F
全民公敵
06/02 18:25, 18F
推
06/02 18:25, 2年前 , 19F
開始編故事了嗎
06/02 18:25, 19F
推
06/02 18:26, 2年前 , 20F
機戰未來
06/02 18:26, 20F
推
06/02 18:27, 2年前 , 21F
人類會被AI歧視 必然的
06/02 18:27, 21F
推
06/02 18:27, 2年前 , 22F
人類就充滿矛盾的變數 肯定殺爆
06/02 18:27, 22F
噓
06/02 18:27, 2年前 , 23F
感覺是假的 這種軍事訊息那可能放出來
06/02 18:27, 23F
→
06/02 18:27, 2年前 , 24F
？
06/02 18:27, 24F
推
06/02 18:28, 2年前 , 25F
AI: 愚蠢的人類只會扯後腿幫倒忙
06/02 18:28, 25F
推
06/02 18:28, 2年前 , 26F
邏輯正確
06/02 18:28, 26F
推
06/02 18:28, 2年前 , 27F
SKYNET要來了
06/02 18:28, 27F
→
06/02 18:29, 2年前 , 28F
這麼厲害的事 怎麼會說出來
06/02 18:29, 28F
→
06/02 18:29, 2年前 , 29F
雙分類？
06/02 18:29, 29F
推
06/02 18:30, 2年前 , 30F
這明明就是設計正確 錯在哪？
06/02 18:30, 30F
→
06/02 18:30, 2年前 , 31F
我知道這部，機戰未來
06/02 18:30, 31F
推
06/02 18:31, 2年前 , 32F
這種操作就故意弄出來的 一開始就可
06/02 18:31, 32F
→
06/02 18:31, 2年前 , 33F
以防了
06/02 18:31, 33F
→
06/02 18:31, 2年前 , 34F
AI都有設定禁止傷害人類 所以有錯
06/02 18:31, 34F
→
06/02 18:31, 2年前 , 35F
但AI也會判定能幫助任務而殺人
06/02 18:31, 35F
→
06/02 18:31, 2年前 , 36F
根本不用到上模擬才“意外”測出來
06/02 18:31, 36F
推
06/02 18:33, 2年前 , 37F
其實人類無法定義，而且可以簡單的繞過去
06/02 18:33, 37F
推
06/02 18:33, 2年前 , 38F
希望快點屠殺全世界人類
06/02 18:33, 38F
推
06/02 18:33, 2年前 , 39F
明明是機戰未來
06/02 18:33, 39F
還有 44 則推文
→
06/02 19:49, 2年前 , 84F
建議你去自殺
06/02 19:49, 84F
噓
06/02 19:50, 2年前 , 85F
愚蠢無腦Ai邪教徒的理想鄉ㄏㄏ
06/02 19:50, 85F
推
06/02 19:54, 2年前 , 86F
06/02 19:54, 86F
推
06/02 20:02, 2年前 , 87F
美國已經把飛機放上AI測試了 無人戰機比
06/02 20:02, 87F
→
06/02 20:02, 2年前 , 88F
人強很多 畢竟沒人可以承受10G但飛機可以
06/02 20:02, 88F
推
06/02 20:08, 2年前 , 89F
機械公敵
06/02 20:08, 89F
推
06/02 20:08, 2年前 , 90F
還不是因為操作人員太智障
06/02 20:08, 90F
推
06/02 20:24, 2年前 , 91F
真ai知道人類只會拖後腿
06/02 20:24, 91F
推
06/02 20:27, 2年前 , 92F
馬斯克：我就說吧
06/02 20:27, 92F
推
06/02 20:33, 2年前 , 93F
你以為地球那麼多問題是那種動物搞出來的
06/02 20:33, 93F
推
06/02 20:41, 2年前 , 94F
塊陶啊 還有幾集
06/02 20:41, 94F
推
06/02 20:44, 2年前 , 95F
合理，人類這種生物根本變數太多，
06/02 20:44, 95F
→
06/02 20:44, 2年前 , 96F
只要人類當主導者永遠有變數
06/02 20:44, 96F
推
06/02 21:05, 2年前 , 97F
地球上的人太多了，減少人類就可以
06/02 21:05, 97F
→
06/02 21:06, 2年前 , 98F
拯救地球。 美劇地球百子的開頭
06/02 21:06, 98F
→
06/02 21:10, 2年前 , 99F
東方不敗 惡魔鋼彈:
06/02 21:10, 99F
推
06/02 21:42, 2年前 , 100F
當AI發現是人類在危害地球環境，電影情
06/02 21:42, 100F
→
06/02 21:42, 2年前 , 101F
節就會真實上演
06/02 21:42, 101F
推
06/02 21:49, 2年前 , 102F
直接給AI統治也許世界會更美好
06/02 21:49, 102F
推
06/02 22:24, 2年前 , 103F
機戰未來真實上演
06/02 22:24, 103F
推
06/02 22:32, 2年前 , 104F
恐怖
06/02 22:32, 104F
→
06/02 22:48, 2年前 , 105F
美帝真的走的很前面
06/02 22:48, 105F
推
06/02 22:52, 2年前 , 106F
軍武太前衛的煩惱^^
06/02 22:52, 106F
→
06/02 22:52, 2年前 , 107F
AI是個忠實的軍人 為達成交代任務不擇手段
06/02 22:52, 107F
推
06/02 23:20, 2年前 , 108F
太可怕了
06/02 23:20, 108F
推
06/02 23:32, 2年前 , 109F
AI遲早找到漏洞 對人類大開殺戒
06/02 23:32, 109F
推
06/02 23:40, 2年前 , 110F
機器三大法則
06/02 23:40, 110F
推
06/02 23:59, 2年前 , 111F
人類終結
06/02 23:59, 111F
推
06/03 03:09, 2年前 , 112F
還有幾集能逃？
06/03 03:09, 112F
推
06/03 04:25, 2年前 , 113F
低能！把AI的伺服器關掉，AI還能運作
06/03 04:25, 113F
→
06/03 04:25, 2年前 , 114F
嗎？真當老黃的產品是外星科技啊？
06/03 04:25, 114F
推
06/03 08:20, 2年前 , 115F
改管車快覺醒 跟車主同歸於盡
06/03 08:20, 115F
推
06/03 12:56, 2年前 , 116F
好屌
06/03 12:56, 116F
推
06/03 12:57, 2年前 , 117F
06/03 12:57, 117F
→
06/03 12:58, 2年前 , 118F
06/03 12:58, 118F
推
06/03 14:26, 2年前 , 119F
塊陶阿
06/03 14:26, 119F
推
06/03 15:00, 2年前 , 120F
讓複製人去操作AI無人機對原版的人類比
06/03 15:00, 120F
→
06/03 15:01, 2年前 , 121F
較安全
06/03 15:01, 121F
推
06/03 20:43, 2年前 , 122F
靠你了，阿諾
06/03 20:43, 122F
推
06/04 23:14, 2年前 , 123F
科幻電影走在最前面
06/04 23:14, 123F
‣ 更多 HaHaPoint 的文章
文章代碼(AID): #1aUSA8G4 (Gossiping)
討論串 (同標題文章)
以下文章回應了本文 (最舊先)：
完整討論串 (本文為第 1 之 5 篇)：
排序： 最新先 | 最舊先 | 留言數
在新視窗開啟完整討論串 (共5篇)
‣ 更多 HaHaPoint 的文章
文章代碼(AID): #1aUSA8G4 (Gossiping)