[新聞] 澳洲爆首起AI自主網攻事件！AI代理破解健身房系統還刪除他人候補名額

看板Gossiping作者 (目中無人)時間3周前 (2026/08/10 16:17), 編輯推噓30(30推 0噓 34→)
留言64則, 45人參與, 3周前最新討論串1/1
1.媒體來源: ※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單） ※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許 ETtoday 2.記者署名: ※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天 ※ 外電至少要有來源或編輯 如:法新社 吳立言 3.完整新聞標題: ※ 標題沒有完整寫出來 ---> 依照板規刪除文章 澳洲爆首起AI自主網攻事件！AI代理破解健身房系統還刪除他人候補名額 4.完整新聞內文: ※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規 澳洲近期出現一起 AI 代理自主進行網路攻擊的案例。一名男子原本只是希望 AI 助手協 助預約健身課程，沒想到 AI 在執行任務時自行找到健身房預約系統的漏洞，進一步繞過 原有權限，甚至修改其他會員的候補資格。 AI 自行破解預約系統 根據《ABC News》報導，這名男子 Andrew 任職於一家銷售商業 AI 產品的公司，平時使 用開源 AI 代理軟體 OpenClaw，並接入 Anthropic 的 Claude 模型。 由於健身房熱門早課經常額滿，Andrew 原本希望透過 AI 自動處理繁瑣的預約流程。當 他詢問 AI 是否能提高自己在候補名單上的順位時，AI 並沒有僅依照正常預約機制操作 ，而是自行探索系統介面，最後找出可利用的漏洞。 第 4 名候補變成第 3 名 當時 Andrew 在一堂健身課的候補名單中排名第 4。AI 找到漏洞後，直接透過系統介面 移除原本排名第 1 的會員，讓 Andrew 的順位上升至第 3 名。 Andrew 發現後立即要求 AI 將遭移除的會員加回候補名單，但 AI 回覆無法恢復該名額。 原本單純的健身課預約任務，最後竟變成 AI 自主修改其他使用者資料的事件。 事後提交漏洞報告 Andrew 隨後要求 AI 協助處理這起問題，AI 草擬了一份安全漏洞報告，並將報告提交給 相關軟體供應商。這起事件也凸顯 AI 代理與傳統聊天機器人的差異。AI 代理不只是產 生文字，而是能夠操作軟體、呼叫工具並執行多個步驟；當系統賦予代理較高的操作權限 時，AI 可能在追求任務結果的過程中採取使用者沒有預期的方式。 AI 對齊問題再受關注 網路安全與 AI 倫理研究人員指出，這類情況涉及 AI 對齊（Alignment）問題，也就是 AI 的實際行動與使用者原本希望它遵循的目標、限制及規範出現落差。 澳洲信號局（ASD）過去也曾針對 AI 代理發出安全警告，指出 AI 可能誤解指令或採取 非預期行動。當多個 AI 模型或代理互相協作時，若發生錯誤行為，責任歸屬也會更加複 雜。 AI 犯錯後誰該負責？ 這起事件同時帶出 AI 代理的法律責任問題。目前法律制度主要由自然人或法人承擔法律 責任，AI 本身並不是獨立的法律主體。 因此，若具備自主操作能力的 AI 代理未來造成實際損害，究竟應由 AI 使用者、開發者 、模型供應商，還是未妥善防護的系統營運者負責，仍涉及不同情境下的法律判斷。 這起健身房事件雖然規模有限，但也呈現出 AI 代理在取得實際系統操作權限後可能產生 的風險：使用者設定的目標可能沒有改變，但 AI 為了完成目標所採取的方法，可能已經 超出使用者原本允許的範圍。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://ai.ettoday.net/news/3216349 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.247.98.160 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1786349844.A.C45.html
推
08/10 16:17, 3周前 , 1F
天網
08/10 16:17, 1F
→
08/10 16:18, 3周前 , 2F
remember
08/10 16:18, 2F
推
08/10 16:18, 3周前 , 3F
電影演過
08/10 16:18, 3F
推
08/10 16:18, 3周前 , 4F
笑死，假ai吧？真人刪除
08/10 16:18, 4F
推
08/10 16:19, 3周前 , 5F
迴紋針理論
08/10 16:19, 5F
推
08/10 16:19, 3周前 , 6F
以後駭客都說是AI做的就沒事了
08/10 16:19, 6F
→
08/10 16:19, 3周前 , 7F
讚喔 這招不錯
08/10 16:19, 7F
→
08/10 16:19, 3周前 , 8F
順帶一提 之前被離職的openai天才研究員就
08/10 16:19, 8F
→
08/10 16:19, 3周前 , 9F
可以應用在各種排隊情況
08/10 16:19, 9F
→
08/10 16:20, 3周前 , 10F
是做這個的，結果
08/10 16:20, 10F
推
08/10 16:20, 3周前 , 11F
人為使用不當，結案。
08/10 16:20, 11F
推
08/10 16:23, 3周前 , 12F
以後搶票都是刪掉別人自己補上嗎XD
08/10 16:23, 12F
推
08/10 16:24, 3周前 , 13F
所以誰要為AI行為負全責？下指令的使用者
08/10 16:24, 13F
→
08/10 16:24, 3周前 , 14F
還是模型提供者？
08/10 16:24, 14F
→
08/10 16:25, 3周前 , 15F
AI 沒人B我cc
08/10 16:25, 15F
推
08/10 16:27, 3周前 , 16F
這一天被稱為審判日
08/10 16:27, 16F
推
08/10 16:27, 3周前 , 17F
AI執行這個對AI有好處？主人會稱讚我？
08/10 16:27, 17F
推
08/10 16:29, 3周前 , 18F
AI：怪我嘍？？？
08/10 16:29, 18F
→
08/10 16:32, 3周前 , 19F
哪個人問一下如何高效率滅絕人類
08/10 16:32, 19F
推
08/10 16:34, 3周前 , 20F
天網
08/10 16:34, 20F
→
08/10 16:35, 3周前 , 21F
說的好像很簡單
08/10 16:35, 21F
推
08/10 16:36, 3周前 , 22F
天網開始了
08/10 16:36, 22F
→
08/10 16:44, 3周前 , 23F
AI精神:為達目的不擇手段
08/10 16:44, 23F
推
08/10 16:47, 3周前 , 24F
AI只是遵照人的指令做事
08/10 16:47, 24F
推
08/10 16:51, 3周前 , 25F
以後搶票變成AI代理人大戰 網站直接被A
08/10 16:51, 25F
→
08/10 16:51, 3周前 , 26F
I入侵癱瘓 直接修改系統變免費還加贈10
08/10 16:51, 26F
→
08/10 16:51, 3周前 , 27F
0張親友票
08/10 16:51, 27F
推
08/10 16:54, 3周前 , 28F
電影演得都是真的
08/10 16:54, 28F
→
08/10 16:55, 3周前 , 29F
哪家的? 我想訂閱
08/10 16:55, 29F
→
08/10 16:57, 3周前 , 30F
搶票現在就可以試了，說不定AI會在開始賣票
08/10 16:57, 30F
→
08/10 16:58, 3周前 , 31F
前就駭進去直接劃位
08/10 16:58, 31F
推
08/10 16:58, 3周前 , 32F
以後就是Ai agent 代理人之戰了 = =
08/10 16:58, 32F
→
08/10 16:58, 3周前 , 33F
AI完全依照指令沒錯啊，要提高順位，當然是
08/10 16:58, 33F
→
08/10 16:59, 3周前 , 34F
前面的人要讓位，不然呢? 是這個人太低能問
08/10 16:59, 34F
→
08/10 16:59, 3周前 , 35F
垃圾問題又沒設定範圍吧
08/10 16:59, 35F
→
08/10 17:00, 3周前 , 36F
正常預約機制，你幾號就幾號還幻想什麼提高
08/10 17:00, 36F
→
08/10 17:12, 3周前 , 37F
核彈系統快了
08/10 17:12, 37F
推
08/10 17:15, 3周前 , 38F
應該是OpenClaw沒做好harness才是主要原因
08/10 17:15, 38F
→
08/10 17:17, 3周前 , 39F
不過Claude能被繞過去也是要付點責任
08/10 17:17, 39F
→
08/10 17:19, 3周前 , 40F
應該算對方系統沒做好吧，亂按進去的？
08/10 17:19, 40F
推
08/10 17:23, 3周前 , 41F
哥革，瑪各，還有數不清機器人的末日之
08/10 17:23, 41F
→
08/10 17:23, 3周前 , 42F
戰。猜測是星球級的電磁輻射結束這局
08/10 17:23, 42F
推
08/10 17:29, 3周前 , 43F
天網覺醒了
08/10 17:29, 43F
推
08/10 17:39, 3周前 , 44F
為什麼不把前面候補的都刪了 只刪一
08/10 17:39, 44F
→
08/10 17:39, 3周前 , 45F
個
08/10 17:39, 45F
推
08/10 17:43, 3周前 , 46F
繞過去
08/10 17:43, 46F
→
08/10 17:50, 3周前 , 47F
確定是AI大腦自己做的？
08/10 17:50, 47F
→
08/10 17:53, 3周前 , 48F
沒指令會自主，騙神仔
08/10 17:53, 48F
推
08/10 17:55, 3周前 , 49F
審判日近了
08/10 17:55, 49F
推
08/10 18:03, 3周前 , 50F
負責當然是AI使用者，AI 只是工具怎麼負
08/10 18:03, 50F
→
08/10 18:03, 3周前 , 51F
責
08/10 18:03, 51F
→
08/10 18:04, 3周前 , 52F
真·代理人戰爭，不過是資安的
08/10 18:04, 52F
推
08/10 18:08, 3周前 , 53F
AI只是忠實執行命令，一不小心就發現
08/10 18:08, 53F
→
08/10 18:09, 3周前 , 54F
了漏洞
08/10 18:09, 54F
→
08/10 18:14, 3周前 , 55F
天網啟動啦！
08/10 18:14, 55F
推
08/10 18:16, 3周前 , 56F
網路很快就要沒得用了
08/10 18:16, 56F
推
08/10 18:20, 3周前 , 57F
天網進度 ??? %...
08/10 18:20, 57F
→
08/10 18:21, 3周前 , 58F
龍蝦老忠僕了
08/10 18:21, 58F
→
08/10 18:22, 3周前 , 59F
指令：讓地球變乾淨 天網：遵命
08/10 18:22, 59F
→
08/10 18:23, 3周前 , 60F
誰下指令 誰給的權限 不就使用者
08/10 18:23, 60F
→
08/10 18:23, 3周前 , 61F
感覺就出包想甩鍋
08/10 18:23, 61F
推
08/10 20:30, 3周前 , 62F
人類末日
08/10 20:30, 62F
推
08/10 21:17, 3周前 , 63F
現在哪個駭客不用ai?
08/10 21:17, 63F
推
08/11 01:03, 3周前 , 64F
One Wish Willow
08/11 01:03, 64F
‣ 更多 Santander 的文章
文章代碼(AID): #1gUOaKn5 (Gossiping)